O Conselho Nacional de Justiça (CNJ) aprovou nesta terça-feira (18) um conjunto de regras para o uso de inteligência artificial no Judiciário. O projeto define as diretrizes para desenvolvimento, uso e governança de soluções desenvolvidas a partir do uso de inteligência artificial. Além disso, fica instituído um Comitê Nacional de Inteligência Artificial no Judiciário, que terá uma série de competências.
A resolução tanto cria limitações, quanto dá permissão para que ferramentas de IA generativas sejam usadas por magistrados como mecanismo de apoio às decisões. O desenvolvimento de ferramentas próprias pelo Judiciário e o uso de dispositivos privados também são regulamentados.
Leia: Ações na Justiça do Trabalho superam 2 milhões em 2024, maior número desde a reforma trabalhista
O texto faz uma ponderação sobre o que diferencia esta resolução de outra publicada em 2020 sobre o mesmo tema. Enquanto a resolução anterior focava na gestão processual e efetividade do Judiciário, o novo regramento tem como objetivo abarcar novas tecnologias, como a IA generativa – tecnologia usada por ferramentas como ChatGPT e DeepSeek.
Já os efeitos das regras aprovadas foram alvo de discordância entre os próprios membros da CNJ. Dentre as justificativas da resolução, está a necessidade de assegurar que o uso de IA no Judiciário esteja alinhado com os valores éticos fundamentais, como o respeito aos direitos humanos e a não discriminação.
Os posicionamentos divergentes, vindos por parte de dois conselheiros, pontuavam que, em vez de atingir esses objetivos, a resolução poderia promover o uso massivo de IA no Judiciário, além de considerarem que ainda seria muito cedo para aprovar um regramento a respeito.
O texto foi formulado a partir das discussões de um grupo de trabalho coordenado pelo CNJ, e teve como relator o conselheiro Luiz Fernando Bandeira de Mello, que se despediu do conselho nesta terça.
No início de fevereiro, havia sido apresentada uma minuta pelo relator, porém de acordo com Bandeira, houve diversas alterações. Dentre elas, o maior detalhamento sobre o funcionamento e composição do comitê, assim como acréscimos a respeito da transparência sobre o uso de IA.
Luís Roberto Barroso, presidente do CNJ e do STF (Supremo Tribunal Federal), afirmou que houve debates sobre aprovar ou não uma regra de eventual engessamento da matéria, a partir da resolução precipitada. Porém, a maioria entendeu que alguma diretriz é oportuna. Ele acrescentou que caso alguma regra se revele inadequada ou ineficaz, a revisão dela no futuro é possível.
Ponderações contrárias à aprovação da resolução partiram do conselheiro Alexandre Teixeira. Ele argumentou que existem muitos riscos e que o texto poderia estimular um uso mais massivo de inteligência artificial. Também afirmou que não haveria algo dessa envergadura sendo aprovado pelo Judiciário de outros países.
“Creio que a regulamentação contém em si o risco de estimular uma espécie de linha de produção de decisões judiciais”, diz.
A preocupação do conselheiro é de que a aprovação da regra poderia passar a mensagem, tanto ao Judiciário quanto à sociedade, de que o CNJ entende que a IA deva ser utilizada “como espécie de panaceia”, argumentando que isso não seria bom e que a produtividade do Judiciário teria melhorado.
Já Renata Gil, também conselheira, avaliou como impertinente a regulamentação, devido à evolução tecnológica, e argumentou que em breve será necessário rever as regras, uma vez que a advocacia já vem fazendo uso de forma muito mais agressiva de ferramentas de IA sem a necessidade de regulamentação.
Na resolução, fica estabelecido que a transparência no uso de IA “será promovida por meio de indicadores claros e relatórios públicos, que informem o uso dessas soluções de maneira compreensível e em linguagem simples”, e que o público geral tenha “ciência do uso de IA, quando aplicável, sem que isso prejudique a eficiência ou credibilidade dos processos e decisões judiciais”.
Além disso, o uso de sistemas de IA generativa de natureza privada para “processar, analisar, gerar conteúdo ou tomar decisões” a partir de documentos ou dados sigilosos ou protegidos por segredo de justiça e para finalidades classificadas como de alto risco ou de risco excessivo foi vedado.
As novas regras também propõem que sejam tomadas “medidas para mitigar e prevenir vieses discriminatórios” pela IA, com a realização de auditorias e monitoramento constante ao longo de seu uso.
Com informações de Folha de S.Paulo
Foto: Rômulo Serpa/Ag. CNJ
