O cérebro que mora fora: sobre IA na prática jurídica

Principais tópicos abordados no artigo “O cérebro que mora fora: sobre IA na prática jurídica”, de Alexandre Morais da Rosa.

• Segundo cérebro e uso responsável da IA: A inteligência artificial generativa pode funcionar como um segundo cérebro quando é comandada por um usuário capaz de formular pedidos, avaliar respostas e recusar sugestões inadequadas. Sem essa condução, transforma-se em uma muleta cognitiva.
• Fronteira entre pensamento e ferramenta: O artigo questiona onde termina o pensamento humano e começa a ferramenta, comparando os modelos de linguagem a agendas, calculadoras e outros recursos externos de apoio à memória e ao raciocínio.
• Princípio de paridade cognitiva: Com base na filosofia da mente, defende-se que uma função exercida fora do cérebro também pode ser considerada cognitiva quando teria essa mesma natureza se fosse realizada internamente.
• Quatro requisitos do segundo cérebro: A ferramenta deve estar disponível, responder com baixo esforço, ser confiável e possuir origem conhecida, com informações auditáveis, transparentes e explicáveis. Os modelos de linguagem atendem melhor aos dois primeiros requisitos, mas dependem de conferência humana quanto à confiabilidade e à origem das informações.
• Capacidades dos modelos de linguagem: A IA pode organizar hipóteses, resumir grandes volumes de documentos, elaborar mapas de conteúdo, apresentar objeções, auxiliar na redação e provocar novas reflexões sobre uma tese ou argumento.
• Preservação do pensamento e da responsabilidade: O uso da IA não substitui o pensamento humano nem transfere a responsabilidade pelo conteúdo produzido. O trabalho passa a se concentrar na seleção, na avaliação e na recusa informada das respostas geradas.
• Limitações e riscos dos modelos de linguagem: O modelo não conhece tudo o que o usuário sabe ou omitiu, pode responder com a mesma fluência ao acertar ou errar e não assume responsabilidade pelo que escreve. A assinatura e as consequências do conteúdo permanecem atribuídas ao usuário.
• Sigilo, privacidade e proteção de dados: É necessário verificar para onde são encaminhadas as informações inseridas na ferramenta, especialmente quando envolvem assuntos relevantes, dados de terceiros, informações jurídicas ou conteúdo protegido por sigilo.
• Herdeiros das lacunas do usuário: Quando o usuário não conhece ou não verifica a fonte original, o segundo cérebro pode transformar uma lacuna de conhecimento em uma resposta aparentemente segura, organizada e convincente, revestindo o erro de certeza.
• Extensão da mente pela inteligência artificial: A partir das ideias de Andy Clark, o artigo apresenta a IA generativa como continuidade da prática humana de estender a mente por meio de ferramentas, condicionada ao desenvolvimento de habilidades metacognitivas.
• Confiança na IA e redução do pensamento crítico: Pesquisas citadas no artigo indicam que a confiança nos sistemas de IA pode estar associada a menor esforço de pensamento crítico, enquanto a autoconfiança na realização da tarefa pode estimular maior empenho. O esforço cognitivo desloca-se da coleta para a verificação da informação.
• Importância do repertório e da competência: Pessoas com conhecimento prévio conseguem reconhecer dissonâncias, identificar afirmações suspeitas e criar mecanismos de salvaguarda cognitiva. Usuários sem repertório podem confundir a sensação de familiaridade com verdadeiro conhecimento.
• Risco da falsa segurança: A fluência da resposta gerada pela IA pode transmitir a impressão de que houve estudo, compreensão e domínio do assunto, levando o usuário a aceitar e até assinar conteúdos sem conferência adequada.
• Três hábitos para evitar a dependência: O artigo recomenda formar uma resposta provável antes de consultar o modelo, solicitar a melhor objeção à resposta produzida e verificar cuidadosamente os pontos conhecidos que sustentam a conclusão.
• Conferência humana como camada indispensável: A utilização segura da IA exige uma conferência posterior realizada por quem acionou a ferramenta, especialmente para validar fatos, fontes, argumentos e conclusões.
• IA generativa na prática jurídica: O uso de modelos de linguagem no Direito apresenta possibilidades de apoio, mas também riscos ampliados por questões de precisão, responsabilidade profissional, sigilo, impacto sobre terceiros e necessidade de prestação de contas.
• Desigualdade entre usuários experientes e amadores: Embora todos estejam sujeitos a erros, usuários sem repertório, reflexão crítica ou métodos de conferência ficam mais expostos ao desastre cognitivo decorrente da aceitação automática das respostas da IA.
• Letramento digital como desafio contemporâneo: O artigo defende que a solução não é abandonar a inteligência artificial generativa, mas desenvolver competências para compreender seus limites, avaliar seus resultados e utilizá-la de forma crítica e responsável.