Principais tópicos abordados no artigo “Admissibilidade e valoração da prova produzida por IA: roteiro para magistrado”, de Daniel Ribeiro Surdi de Avelar.

• Caso State v. Puloka: Análise da decisão que rejeitou a exibição de um vídeo aprimorado por inteligência artificial, utilizado em um julgamento por homicídios, devido à ausência de revisão por pares, aceitação geral, testes de confiabilidade e explicação sobre o funcionamento do algoritmo.
• Autenticação de provas produzidas por IA: Apresentação das três vias previstas nas Federal Rules of Evidence (FRE): testemunho de pessoa com conhecimento pessoal, descrição do processo ou sistema e certificação que dispensa a presença da testemunha.
• Exigência de resultado acurado: Discussão sobre a necessidade de demonstrar que o sistema ou processo empregado produz resultados precisos, independentemente da modalidade de autenticação utilizada.
• Diferença entre autenticação e veracidade: Esclarecimento de que autenticar uma prova não significa comprovar definitivamente sua verdade, mas demonstrar que ela é suficientemente compatível com aquilo que a parte afirma ser.
• Certificação como equivalente funcional do testemunho: Explicação de que as certificações previstas nas Regras 902(13) e 902(14) não permitem declarações genéricas de validade ou confiabilidade nem reduzem o conteúdo probatório exigido.
• Validade, confiabilidade e viés: Análise dos três critérios que complementam a noção de acurácia: a validade, relacionada à capacidade de a ferramenta medir ou predizer o que se propõe; a confiabilidade, ligada à consistência dos resultados; e o viés, associado a distorções sistemáticas nos dados ou no funcionamento do sistema.
• Teste de Frye: Exame do padrão de admissibilidade aplicado no caso Puloka, que exige aceitação geral da técnica ou metodologia científica pela comunidade especializada relevante.
• Padrão Daubert e Regra 702: Apresentação do modelo que substituiu a aceitação geral como requisito exclusivo por uma análise abrangente da validade e da confiabilidade da metodologia utilizada.
• Fatores de admissibilidade de Daubert: Avaliação da possibilidade e efetiva realização de testes empíricos, revisão por pares e publicação, taxa de erro, existência de padrões operacionais e controles, além do grau de aceitação da técnica no campo científico.
• Hipóteses de inadmissibilidade da prova de IA: Identificação de situações como ausência de testes, segredo industrial que impeça a verificação, taxas de erro inaceitáveis, atalhos no desenvolvimento ou uso da ferramenta e falta de aceitação da metodologia entre especialistas.
• Transparência e opacidade algorítmica: Discussão sobre a impossibilidade de utilizar o sigilo do sistema como justificativa para afastar o dever de demonstrar sua confiabilidade e explicar o processo de produção do resultado.
• Princípios do NIST para sistemas de IA: Aplicação dos princípios de explicação, inteligibilidade, acurácia da explicação e limites de conhecimento como filtros para avaliar a confiabilidade da prova algorítmica.
• Roteiro de cinco perguntas para o magistrado: Proposição de um método prático para decidir sobre a admissibilidade de provas produzidas por IA, com base em validade, confiabilidade, viés, critérios de Daubert e princípios do NIST.
• Finalidade do sistema de IA: Necessidade de identificar qual problema a ferramenta foi criada para resolver, verificando sua adequação ao caso concreto e eventual desvio de finalidade.
• Desenvolvimento e treinamento do sistema: Investigação sobre quem desenvolveu a ferramenta, a qualificação dos programadores, a representatividade dos dados de treinamento e a existência de critérios discriminatórios ou enviesados.
• Testagem independente: Verificação de como, por quem e em quais condições a validade e a confiabilidade do sistema foram testadas, bem como da possibilidade de revisão dos resultados pela parte contrária e pelo juízo.
• Explicabilidade para os sujeitos processuais: Avaliação sobre a capacidade de advogados, magistrados e jurados compreenderem o funcionamento da ferramenta e a relação entre a explicação apresentada e o processo real de geração do resultado.
• Risco de dano e gravidade do erro: Análise da relação entre a confiabilidade exigida e as consequências de eventual erro tecnológico, especialmente em casos com impactos graves sobre direitos fundamentais.
• Deveres do magistrado no desenho do processo: Necessidade de exigir a comunicação prévia da intenção de utilizar prova produzida por IA, assegurar prazo para impugnação e permitir instrução técnica sobre desenvolvimento, treinamento, testes, falsos positivos, falsos negativos e vieses.
• Segredo industrial e qualificação dos peritos: Discussão sobre a possibilidade de afastar alegações de segredo industrial que impeçam a compreensão operacional do modelo e sobre a necessidade de peritos capazes não apenas de operar, mas também de explicar a ferramenta.
• Limites do aprimoramento de imagens por IA: Demonstração de que melhorar a nitidez de uma gravação não é uma operação necessariamente neutra, pois o algoritmo pode transformar borrões e informações incompletas em uma representação probabilística da realidade.
• Função de gatekeeper do magistrado: Reforço do papel judicial de filtrar provas produzidas por IA, separando sistemas que efetivamente fazem o que prometem daqueles que apenas aparentam produzir resultados confiáveis.