Prova algorítmica sob suspeita: lições de Paul Grimm sobre validade e riscos da IA no processo penal
O artigo aborda as implicações do uso de algoritmos no processo penal, destacando o caso de Eric Loomis e a avaliação de risco por meio do sistema Compas. Os autores exploram questões de validade e confiabilidade das provas geradas por inteligência artificial, identificando perigos como viés, falta de validação e opacidade, que podem comprometer direitos fundamentais no contexto jurídico. Em suma, destaca a necessidade de um escrutínio rigoroso e normativas claras para garantir a integridade ...
O artigo aborda as lições extraídas do caso de Eric Loomis, que ilustra os desafios e riscos da utilização de inteligência artificial (IA) como prova no processo penal, com foco em questões de validade e confiabilidade.
Primeiramente, discorre sobre a aplicação do algoritmo Compas na avaliação de risco de reincidência de Loomis, destacando a controvérsia sobre o devido processo legal e a impossibilidade de contestar a validade do algoritmo. Em seguida, analisa a necessidade de assegurar que tanto a validade — se a medida realmente corresponde ao que se pretende avaliar — quanto a confiabilidade — se os resultados são consistentes sob as mesmas condições — sejam critérios fundamentais para qualquer prova algorítmica. O texto ainda detalha sete perigos identificados por Paul Grimm e outros especialistas, incluindo viés nos dados que compromete a validade da prova, a falta de validação de sistemas utilizados, o desvio de finalidade ao aplicar algoritmos em contextos não validados, questões relacionadas à origem dos dados, a opacidade dos algoritmos que impede o contraditório, a ausência de responsabilização em casos de erro, e a fragilidade dos sistemas frente a manipulações e deepfakes.
Por fim, o artigo reforça a necessidade de um ceticismo crescente por parte dos juízes em relação às provas geradas por IA, especialmente quando a precisão não é suficientemente robusta, e destaca a importância de discutir possíveis mudanças nas normas jurídicas para lidar com essas inovações tecnológicas no direito.
Tópicos do artigo
Principais pontos desenvolvidos no texto original
Principais tópicos abordados no artigo "Prova algorítmica sob suspeita: lições de Paul Grimm sobre validade e riscos da IA no processo penal" por Daniel Ribeiro Surdi de Avelar.
- Casos de uso de algoritmos em sentenças: Análise do caso de Eric Loomis, onde a avaliação do algoritmo Compas impactou a decisão judicial e a argumentação sobre o direito ao devido processo legal.
- Validade e confiabilidade: Discussão sobre os conceitos de validade (medição correta) e confiabilidade (consistência dos resultados) na utilização de provas algorítmicas.
- Perigos do uso de IA no processo penal: Identificação dos sete perigos principais do uso de IA, conforme apresentado por Paul Grimm e co-autores.
- Viés nos dados: Exemplo de como o viés nos dados históricos pode levar a decisões errôneas e injustas, afetando comunidades marginalizadas.
- Lacuna de validação: Falta de avaliação independente nos sistemas de IA utilizados, levando a resultados não testados e potencialmente errôneos.
- Desvio de finalidade: Risco de utilização de algoritmos além das suas funções originais sem validação adequada.
- Origem contaminada da prova: Problemas associados à qualidade dos dados utilizados nos algoritmos, resultando em conclusões inválidas.
- Opacidade dos algoritmos: Dificuldade em entender e questionar as decisões tomadas por sistemas que não são transparentes, comprometendo o contraditório.
- Falta de responsabilização: Dificuldades em identificar quem deve ser responsabilizado por eventuais erros cometidos por sistemas de IA.
- Fragilidade dos sistemas: Incapacidade dos algoritmos de detectar e resistir a manipulações, como deepfakes e outras formas de adulteração.
- Necessidade de debate jurídico: A chamada para um aprofundamento das discussões sobre a validade e confiabilidade da prova algorítmica nas regras de evidência nos tribunais dos EUA.
Autores na comunidade
Sobre os experts
Professores e especialistas que conduziram este conteúdo
Explore
Indicações relacionadas a este conteúdo
Não perca este conteúdo
Assine a Criminal Player e tenha acesso imediato a esta aula, mais de 4.900 conteúdos, ferramentas de IA e a maior comunidade de advocacia criminal do Brasil.
