IA e processo judicial: entre a fraude invisível e o erro no caso do prompt injection no TRT-8
O artigo aborda a crescente utilização de sistemas de inteligência artificial no Judiciário brasileiro, destacando a técnica de prompt injection, que permite manipulações sutis e perigosas no processo decisório. A análise foca em um caso do TRT-8, no qual um comando oculto em uma petição inicial comprometeu a boa-fé processual, ressaltando a necessidade de regulamentos mais rigorosos diante das vulnerabilidades que a tecnologia gera no ambiente judiciário. Além disso, discute os limites da re...
O artigo aborda a incorporação de sistemas de inteligência artificial (IA) no Judiciário brasileiro, destacando suas funções e a necessidade de uma revisão nas categorias do direito processual frente a essas inovações.
Os autores discutem a técnica de prompt injection, usada para manipular sistemas de IA de forma oculto, e como essa prática emergiu em um caso do Tribunal Regional do Trabalho da 8ª Região, onde comandos ocultos em petições afetaram o resultado decisório. Além disso, a análise inclui a importância da boa-fé processual e a desproporcionalidade entre as partes, a relevância da supervisão humana na utilização da IA, e a inadequação das normas atuais frente a esses novos desafios.
Os autores defendem a necessidade de novos parâmetros normativos e regulatórios para lidar com as vulnerabilidades trazidas pela IA, assim como a importância de uma resposta que não comprometa as garantias da advocacia, fazendo um alerta sobre o uso indevido de ferramentas tecnológicas no processo judicial e como isso se relaciona com a diligência e a responsabilidade profissional.
Tópicos do artigo
Principais pontos desenvolvidos no texto original
Principais tópicos abordados no artigo "IA e processo judicial: entre a fraude invisível e o erro no caso do prompt injection no TRT-8" por Dierle Nunes, João Sérgio Pereira e Gustavo Chalfun.
- Incorporação de IA no Judiciário: Discussão sobre como sistemas de inteligência artificial, como o Galileu, estão sendo integrados nas atividades do Judiciário, influenciando a organização de informações e minutas decisórias.
- Fragilidades do direito processual: Análise das vulnerabilidades emergentes no direito processual diante da adoção de tecnologia, destacando a necessidade de uma reavaliação das estruturas jurídicas clássicas.
- Prompt injection: Explicação da técnica de inserção de comandos ocultos em textos que visam manipular respostas de sistemas de IA, criando riscos para a imparcialidade do Judiciário.
- Decisão do TRT-8: Detalhes sobre o caso no Tribunal Regional do Trabalho da 8ª Região, onde uma manipulação ocorreu via prompt injection, evidenciando a gravidade da conduta.
- Impacto na boa-fé processual: Reflexão sobre como a manipulação de IA compromete a boa-fé processual e a paridade de armas entre as partes no processo.
- Resolução do CNJ nº 615/2025: Análise das diretrizes estabelecidas para o uso de IA no Judiciário, incluindo governança, transparência e supervisão humana, e suas limitações em lidar com práticas como a prompt injection.
- Dificuldades dogmáticas na sanção: Discussão sobre a responsabilização de advogados envolvidos em práticas de prompt injection e os desafios da aplicação das sanções previstas no Código de Processo Civil.
- Heterogeneidade de condutas: Diferenciação entre usos indevidos da IA, como alucinações versus ações intencionais de prompt injection, e suas implicações jurídicas.
- Necessidade de um modelo normativo: Proposta de criação de um modelo regulatório que aborde eficazmente as novas vulnerabilidades trazidas pela inteligência artificial no Judiciário.
- Impacto da supervisão humana: Reflexão sobre o papel crucial da supervisão humana no uso da IA e como isso pode mitigar os riscos de manipulação no processo decisório.
- Desafios do uso de tecnologia no Judiciário: Consideração sobre como a tecnologia expõe limites das categorias jurídicas atuais e a necessidade de adaptar o direito processual às novas realidades do ambiente digital.
Autores na comunidade
Sobre os experts
Professores e especialistas que conduziram este conteúdo
Explore
Indicações relacionadas a este conteúdo
Não perca este conteúdo
Assine a Criminal Player e tenha acesso imediato a esta aula, mais de 4.900 conteúdos, ferramentas de IA e a maior comunidade de advocacia criminal do Brasil.