IA não presta compromisso: prova digital, caixa-preta e contraditório
O artigo aborda a crescente utilização da inteligência artificial (IA) como ferramenta de prova digital no contexto penal, destacando as preocupações com a confiabilidade e o contraditório. As autoras relatam casos em que relatórios gerados por IA foram rejeitados pelos tribunais, evidenciando a falta de responsabilidade e auditabilidade na produção dessas provas. Além disso, discutem a necessidade urgente de regulamentação e critérios objetivos para garantir que a tecnologia não comprometa o...
O artigo aborda a utilização de inteligência artificial (IA) no contexto das provas digitais no processo penal, destacando questões cruciais como a confiabilidade epistêmica das provas geradas por IA, que podem apresentar "alucinações" e informações fabricadas.
Trata da questão da perícia, enfatizando que a IA, embora desempenhe funções de um perito, não se submete às mesmas responsabilidades legais, como a ausência de compromisso e a possibilidade de inquirição. Discute a necessidade de contraditório em processos judiciais, questionando como confrontar modelos algorítmicos fechados, que operam sob dados protegidos e com margens de erro desconhecidas. O texto também analisa a crescente relevância da cadeia de custódia das provas digitais, ressaltando a importância de documentar o processo pelo qual as informações são transformadas pela IA para garantir sua integridade.
Além disso, menciona a dificuldade em garantir a autenticidade das provas em um cenário onde tecnologias como deepfake são prevalentes, aumentando a responsabilidade da acusação em comprovar a veracidade dos dados. O artigo conclui com a necessidade urgente de regulação adequada sobre o uso de IA na produção de provas, destacando a importância da reprodutibilidade para garantir o contraditório e proteger os direitos dos acusados.
Tópicos do artigo
Principais pontos desenvolvidos no texto original
Principais tópicos abordados no artigo "IA não presta compromisso: prova digital, caixa-preta e contraditório" por Rafaela Azevedo de Otero e Maíra Fernandes.
- Confiabilidade da IA como prova: Análise do julgamento do HC 1.059.475/SP pelo STJ, que rejeitou o uso de relatório de IA como prova penal devido à ausência de confiabilidade mínima.
- Prova digital e sua transformação: Discussão sobre como a prova digital não é apenas um arquivo, mas sim um produto de processamento automatizado, que não pode ser questionado como um perito humano.
- Contraditório na era da IA: A dificuldade de contestar um modelo de IA, que opera como uma caixa-preta, e o impacto negativo na ampla defesa e no contraditório no processo penal.
- Cadeia de custódia e IA: A necessidade de documentar as etapas do processamento pela IA para garantir a integridade e confiabilidade da prova digital.
- Desafios da autenticidade em provas geradas por IA: O aumento do ônus de prova sobre a acusação em virtude da capacidade da IA de criar conteúdo que parece autêntico, como deepfakes.
- Regulamentação da IA e o processo penal: A lacuna na regulação da IA quanto à produção de prova no processo penal, comparando com legislações da União Europeia e propostas no Brasil.
- Proposta de contraditório por reprodutibilidade: Sugestão de que a defesa tenha o direito de replicar os resultados gerados pela IA para garantir o contraditório e a admissão da prova em juízo.
- Importância da auditoria e reexame: A necessidade de que ferramentas de IA sejam auditáveis e reexamináveis pela defesa, assegurando que a tecnologia seja usada de forma justa no processo penal.
Autores na comunidade
Sobre os experts
Professores e especialistas que conduziram este conteúdo
Explore
Indicações relacionadas a este conteúdo
Não perca este conteúdo
Assine a Criminal Player e tenha acesso imediato a esta aula, mais de 4.900 conteúdos, ferramentas de IA e a maior comunidade de advocacia criminal do Brasil.