O Conselho Nacional de Justiça (CNJ) recentemente deliberou sobre o uso de ferramentas de inteligência artificial (IA), especificamente o ChatGPT, no âmbito do Judiciário brasileiro.
Uso do ChatGPT em atos processuais
A decisão, unânime, foi tomada em resposta a um Procedimento de Controle Administrativo (PCA) movido por um advogado que solicitava a proibição do uso do ChatGPT na confecção de atos processuais. A decisão, fundamentada em princípios éticos e jurídicos, baseou-se na Resolução CNJ nº 332/2020, que trata da governança, transparência e ética na utilização de inteligência artificial.
O advogado argumentou que, embora o ChatGPT tenha potencial, apresentou resultados inconclusivos em testes jurídicos e poderia comprometer a qualidade das decisões judiciais.
Em sua petição, ele destacou que a IA não obteve resultados satisfatórios em avaliações específicas, como o exame equivalente ao da Ordem dos Advogados do Brasil (OAB) nos Estados Unidos. Além disso, a ferramenta ainda falhou em reconhecer nuances legais essenciais, como a tipificação do crime de genocídio no Brasil.
Parecer do CNJ
O relator do caso, Conselheiro João Paulo Schoucair, inicialmente indeferiu o pedido de liminar por falta de evidências concretas de uso inadequado da IA.
Posteriormente, determinou o encaminhamento dos autos para a Comissão de Tecnologia da Informação e Inovação do CNJ, presidida pelo Conselheiro Luiz Fernando Bandeira de Mello, para uma avaliação técnica detalhada.
A comissão apresentou um parecer técnico que enfatizou o potencial significativo da IA para aprimorar a eficiência do sistema judicial. Contudo, destacou também a necessidade de cuidados específicos quanto à ética, equidade e responsabilidade.
Veja a ementa do julgado:
PROCEDIMENTO DE CONTROLE ADMINISTRATIVO. PODER JUDICIÁRIO. USO DE INTELIGÊNCIA ARTIFICIAL. CHATGPT. NÃO DEMONSTRAÇÃO DE ATO ADMINISTRATIVO ESPECÍFICO. CONHECIMENTO COMO PEDIDO DE PROVIDÊNCIAS. PARECER DA COMISSÃO PERMANENTE DE TECNOLOGIA DA INFORMAÇÃO. GRUPO DE TRABALHO JÁ FORMADO NO ÂMBITO DESTE CONSELHO. IMPROCEDÊNCIA. 1. O presente PCA foi proposto visando questionar eventual uso do ChatGPT para confecção de atos judiciais típicos. No âmbito do Poder Judiciário brasileiro, o uso da IA é abordado na Resolução CNJ n.° 332/2020, que dispõe sobre a ética, a transparência e a governança na produção e no uso de inteligência artificial. A norma deste Conselho reconhece que a utilização da IA deve ocorrer no sentido “promover e aprofundar maior compreensão entre a lei e o agir humano, entre a liberdade e as instituições judiciais” (art. 1°). 2. A inventividade dessa tecnologia impulsiona significativo passo para a evolução da inteligência artificial generativa. Não obstante, o emprego de ferramentas como o ChatGPT e de outras tecnologias de inteligência artificial pelo Judiciário demanda uma análise criteriosa à luz de diversos princípios éticos, jurídicos e constitucionais. Esses dispositivos oferecem um potencial significativo para aprimorar a eficiência e a eficácia do sistema judicial, porém, sua aplicação requer cuidados específicos, relacionados à ética, à equidade e à responsabilidade no uso dessas ferramentas. 3. Improcedência dos pedidos formulados na inicial, consignando-se que os estudos sobre a matéria já se encontram em trâmite junto ao Grupo de Trabalho sobre Inteligência Artificial no Poder Judiciário (Portaria n.° 338/2023), os quais poderão ser acompanhados pela Comissão Permanente de Acompanhamento dos Objetivos de Desenvolvimento Sustentável e da Agenda 2030, em especial o Laboratório de Inovação, Inteligência e Objetivos de Desenvolvimento Sustentável – LIODS. (CNJ. 21/06/2024, PROCEDIMENTO DE CONTROLE ADMINISTRATIVO - 0000416-89.2023.2.00.0000)
Diretrizes para o uso da IA
A Resolução CNJ nº 332/2020, citada na decisão, estabelece diretrizes claras sobre o uso de IA no Judiciário. O artigo 1º da resolução destaca que a IA deve “promover e aprofundar maior compreensão entre a lei e o agir humano, entre a liberdade e as instituições judiciais”. Além disso, a resolução sublinha a importância da governança, exigindo que todos os órgãos do Judiciário informem previamente ao CNJ sobre o desenvolvimento e uso de tecnologias de IA, detalhando objetivos e resultados esperados.
Dessa maneira, a Resolução CNJ nº 332/2020 estabelece diretrizes para o uso de IA no Judiciário, incluindo:
- Ética e Transparência: A IA deve promover a compreensão entre a lei e o agir humano, assegurando a prestação equitativa da jurisdição.
- Governança: Os órgãos do Judiciário devem informar previamente ao CNJ sobre qualquer desenvolvimento ou uso de IA, com esclarecimento sobre os objetivos e resultados esperados.
- Supervisão e Controle: Deve-se utilizar a IA como ferramenta complementar, não substituindo a análise e supervisão humana.
Rígido acompanhamento
Por outro lado, o CNJ estabeleceu diretrizes rígidas para o uso de IA, que incluem:
- Monitoramento contínuo: A utilização de IA deve ser continuamente monitorada para garantir a conformidade com os padrões jurídicos.
- Treinamento Adequado: Profissionais do direito devem passa por instruções para operar e interpretar os resultados gerados pelas ferramentas de IA.
- Auditoria e Transparência: Todos os processos envolvendo IA devem ser auditáveis e transparentes.
- Complementaridade: A IA deve ser usada como uma ferramenta complementar, não substituindo a análise humana.
Assim, para mitigar riscos, a resolução CNJ nº 332/2020 estabelece que é preciso utilizar a IA de forma transparente e auditável, permitindo a revisão e contestação dos resultados.
A resolução também prevê que a IA deve ser uma ferramenta complementar, e não um substituto da análise humana. Isso garante que a supervisão humana permaneça essencial em todas as etapas do processo judicial.
Conclusão
Portanto, a decisão do CNJ foi de improcedência do pedido. O Conselho também reiterou que o uso de IA no Judiciário deve passar por uma supervisão humana rigorosa para assegurar a equidade e a responsabilidade nas decisões judiciais.
Por fim, o CNJ também estabeleceu que os estudos sobre a regulamentação do uso de IA continuarão sob a supervisão do Grupo de Trabalho sobre Inteligência Artificial no Poder Judiciário, instituído pela Portaria CNJ nº 338/2023. Esse grupo tem como objetivo realizar estudos e apresentar propostas de regulamentação, abordando governança, auditoria e definição de casos de uso permitidos, regulados e proibidos.
Quer saber quais serão os próximos concursos?
Confira nossos artigos para Carreiras Jurídicas!
