Discriminação algorítmica e poder judiciário: limites à adoção de sistemas de decisões algorítmicas no judiciário brasileiro – maio 2023

A inteligência artificial possui dois problemas: opacidade e discriminação. Enquanto a primeira está sendo resolvida, a segunda desafia os reguladores. Apesar disso, ferramentas de inteligência artificial vêm sendo adotadas pelos poderes judiciários mundiais para lidar com a litigância. O Brasil se destaca pelo projeto CODEX, que cria a infraestrutura para a adoção de uma lógica decisional algorítmica, expandindo o uso desses sistemas. Diante de uma abordagem antidiscriminatória algorítmica tecnocêntrica, esta obra inova ao apresentar uma proposta de regulação jurídica para os sistemas de decisões algorítmicas (SDAs) adotados no poder judiciário brasileiro. Como adequar conceitos tradicionais à discriminação algorítmica? Qual a sua dinâmica e quais as suas portas de entrada nos sistemas decisórios? Qual o conteúdo jurídico da equidade algorítmica? Ao longo da obra, a autora responde a essas perguntas e descreve como quatro critérios – função, tarefa, natureza da decisão e tema – devem ser analisados em uma matriz de risco discriminatório algorítmico para classificar os SDAs aplicados e aplicáveis ao judiciário em sistemas de risco discriminatório baixo, médio, alto e proibido. Propõe, ainda, normatização própria para cada uma dessas categorias.