A Bolha da IA generativa no Poder Judiciário: o tamanho do risco
O artigo aborda as implicações da adoção de Modelos de Linguagem de Larga Escala (LLMs) no Poder Judiciário, destacando os riscos associados à busca por eficiência e produtividade em contraste com a necessidade de transparência e responsabilidade. Os autores, Alexandre Morais da Rosa e Bárbara Guasque, discutem a Resolução CNJ nº 615/2025, que estabelece diretrizes para o uso ético da inteligência artificial no Judiciário, enfatizando a importância do disclaimer como ferramenta de compliance ...
O artigo aborda a preocupação com a adoção de Modelos de Linguagem de Larga Escala (LLMs) no Poder Judiciário, caracterizando um fenômeno denominado “Bolha da IA Generativa”, que reflete os riscos operacionais e éticos resultantes dessa prática.
Inicialmente, discute a resolução CNJ nº 615/2025 como um marco regulatório fundamental que visa garantir uso ético da Inteligência Artificial no Judiciário, assegurando a dignidade humana, o devido processo legal e a responsabilidade por meio de mecanismos de conformidade, classificação de risco e vedação de substituição da avaliação humana. O artigo então destaca a pressão por produtividade, impulsionada por metas de desempenho e a percepção negativa relacionada ao uso do disclaimer, que pode desincentivar a transparência necessária, resultando no chamado Problema de Agência onde os interesses do agente divergem do principal.
A metáfora econômica da “Bolha” é utilizada para ilustrar como o foco na eficiência pode levar a uma desvalorização da segurança jurídica e a um eventual colapso da confiança pública no sistema. O texto enfatiza que o não uso do disclaimer pode resultar em nulidades judiciais e a introdução de viés ou erros significativos nas decisões. Por fim, alerta para uma iminente explosão da bolha, sugerindo que magistrados adotem o disclaimer como uma salvaguarda para garantir a conformidade e o devido processo, em contrapartida a uma busca pela produtividade que ignora a validade e a ética dos atos judiciais.
Tópicos do artigo
Principais pontos desenvolvidos no texto original
Principais tópicos abordados no artigo "A Bolha da IA generativa no Poder Judiciário: o tamanho do risco" por Alexandre Morais da Rosa e Bárbara Guasque.
- Bolha da IA Generativa: Análise da adoção não declarada de Modelos de Linguagem de Larga Escala (LLMs) por magistrados e servidores, resultando em um risco opaco no Judiciário.
- Resolução CNJ nº 615/2025: Diretrizes estabelecidas para o uso de IA no Judiciário, buscando equilibrar eficiência, ética e devido processo legal.
- Objetivo Central: Assegurar que o uso de IAGen esteja alinhado com princípios éticos, como dignidade humana e transparência.
- Mecanismos de Conformidade: Classificação de risco e exigências de transparência para o uso de IAGen, incluindo regras de supervisão por magistrados.
- Pressão por Produtividade: Influência do sistema de metas de produtividade na adesão à IAGen, criando incentivos para sua adoção opaca.
- Problema de Agência: Conflito entre os interesses do agente (magistrados e assessores) e do principal (segurança jurídica e transparência).
- Riscos Ocultos da Bolha: Comparação da "Bolha da IA Generativa" com bolhas econômicas, destacando riscos como nulidade de atos judiciais e viés discriminatório.
- Modelo de Declaração de Uso: Importância do disclaimer como ferramenta de transparência e responsabilidade no uso de IAGen, conforme exigido pela Resolução CNJ.
- Explosão Imminente da Bolha: Análise dos riscos associados ao uso não conforme da IAGen e suas consequências para a confiança pública e validade dos atos judiciais.
- Urgência da Conformidade: Necessidade de que magistrados e assessores implementem disclaimers como garantia de conformidade e proteção do devido processo legal.
Autores na comunidade
Sobre os experts
Professores e especialistas que conduziram este conteúdo
Explore
Indicações relacionadas a este conteúdo
Não perca este conteúdo
Assine a Criminal Player e tenha acesso imediato a esta aula, mais de 4.900 conteúdos, ferramentas de IA e a maior comunidade de advocacia criminal do Brasil.