A proposta, discutida após intensos debates, visa auxiliar magistrados sem substituir sua função decisória.
CNJ aprovou, nesta terça-feira, 18, ato normativo que regulamenta o uso de inteligência artificial no Judiciário. A medida visa estabelecer diretrizes claras para a implementação e utilização de tecnologias no sistema judicial.
O texto foi apresentado, inicialmente, em sessão realizada no último dia 11 de fevereiro e relatado pelo conselheiro Bandeira de Mello, que se despede do CNJ nesta sessão.
Confira a íntegra da resolução.
A norma detalha regras de governança, auditoria e supervisão humana para evitar riscos como vieses discriminatórios e decisões automatizadas sem controle.
Confira alguns detalhes abaixo.
Governança e transparência
A resolução cria o Comitê Nacional de Inteligência Artificial do Judiciário, responsável por fiscalizar e orientar o desenvolvimento e o uso dessas tecnologias.
Os tribunais deverão manter auditoria e monitoramento contínuos, assegurando que os sistemas de IA sigam padrões éticos e legais.
Além disso, será obrigatória a publicação de relatórios sobre o uso dessas ferramentas, promovendo a transparência para advogados, defensores públicos e demais atores do sistema de justiça.
Proibições e restrições
Entre as proibições expressas na resolução, está o uso de IA para prever crimes com base em características pessoais ou comportamentais.
Também fica vedado o emprego de sistemas para classificar cidadãos conforme sua condição social ou emocional para fundamentar decisões judiciais.
O reconhecimento facial para detectar emoções também foi barrado, diante do risco de discriminação e violação de privacidade.
Supervisão humana e capacitação
Outro ponto de destaque é a obrigatoriedade da supervisão humana sobre todas as decisões judiciais que utilizem IA.
Os sistemas poderão atuar como suporte à magistratura, mas nunca substituir a avaliação final de um juiz.
Para garantir o uso correto dessas ferramentas, tribunais e escolas da magistratura oferecerão treinamentos regulares para magistrados e servidores, capacitando-os para lidar com os desafios e riscos da automação.
Proteção de dados e segurança
A resolução também reforça normas para proteger informações sensíveis, adotando os princípios de privacy by design (proteção de dados desde a concepção) e privacy by default (proteção por padrão).
Os dados usados para treinar modelos de IA deverão ser anonimizados sempre que possível e provenientes de fontes seguras. Além disso, as soluções devem permitir auditoria e monitoramento para evitar usos indevidos.
Expectativas
Com a regulamentação, o CNJ busca equilibrar inovação e segurança jurídica, permitindo que a IA seja utilizada como uma ferramenta para agilizar processos sem comprometer direitos fundamentais.
A resolução prevê ainda um sistema de classificação de riscos, que determinará o nível de fiscalização conforme o impacto potencial da tecnologia utilizada.
Resolução
A minuta apresentada ao plenário do CNJ é o resultado dos trabalhos realizados pelo GT ao longo de um ano e que incluíram a realização de uma audiência pública de três dias para debate do tema.
“Ninguém quer ser julgado por um robô, e a normativa proposta não permitirá isso. Será, em verdade, uma ferramenta para auxiliar o magistrado na sua tomada de decisão”, afirmou o relator.
Segundo Bandeira de Mello, soluções de IA poderão ajudar o juiz a formular perguntas em audiências, a detectar contradições em depoimentos, a perceber que sua decisão contraria precedente relevante ou entendimento de seu tribunal.
“Mas não vão subtrair do magistrado incumbido da jurisdição a ampla cognição do processo e sua possibilidade de proferir a decisão mais justa em cada caso concreto”, detalhou.
Ao justificar o voto pela aprovação da minuta, ele defendeu que o instrumento normativo “fortalecerá a prestação jurisdicional, promovendo uma Justiça mais moderna, eficiente e segura, em consonância com os avanços tecnológicos e as demandas da sociedade contemporânea”.
Proteção de direitos fundamentais
A regulamentação tem como principal objetivo garantir os direitos fundamentais das pessoas que recorrem ao sistema judicial, promovendo inovação e eficiência sem comprometer a segurança, transparência, igualdade e ética, além de resguardar a autonomia dos tribunais.
Um dos momentos-chave da discussão foi a audiência pública realizada entre 25 e 27 de setembro de 2024, onde foram debatidos temas como governança, transparência, regulamentação, impacto da IA na tomada de decisões judiciais, privacidade, segurança, desafios éticos e seus reflexos nos direitos fundamentais.
Durante o evento, também foi lançada a pesquisa “O uso da Inteligência Artificial Generativa no Poder Judiciário Brasileiro”.
De acordo com o levantamento, quase metade dos magistrados e servidores que responderam ao diagnóstico já utilizam ferramentas de IA nos tribunais. No entanto, mais de 70% dos participantes relataram que fazem uso desses recursos apenas de forma ocasional.
Apesar da baixa frequência, há um percentual relevante de profissionais que utilizam a tecnologia em suas atividades no tribunal, incluindo 27% dos magistrados e 31% dos servidores.
