Artigo no Conjur

Temas como Bioética, 5G, Big Data, Blockchain e Inteligência Artificial ocupam a agenda de debates já há algum tempo. A sociedade em rede e a computação quântica reforçam a inexorável entrada na chamada Era da Complexidade e Tecnologia.

Nesse contexto, muitos debates em torno das possibilidades e limites da Inteligência Artificial (IA), em especial quanto ao seu potencial para a utilização na seara jurídica, têm ocasionado uma verdadeira explosão de Lawtechs, que despontam como um grande negócio, em um país judicializado.

Em um primeiro momento, a utilidade dos processos de automatização mediante o uso de Inteligência Artificial é evidente. Basta pensar na coleta e processamento de dados em escala nunca antes vista, que propiciam informações importantes para subsidiar análises, organizam entendimentos jurisprudenciais, relacionam provas, estabelecem conexões de fatos e pessoas, dentre inúmeras outras aplicações que podem contribuir para o magistrado em suas decisões e mesmo para as partes, seja na construção da matéria de defesa ou da acusação.

No entanto, é preciso ter em mente os perigos que podem estar inseridos nessa contribuição: ainda que não haja espaço e nem juridicidade para a existência de decisões judiciais tomadas diretamente pela Inteligência Artificial, a grande capacidade de processamento de informações, combinada com o potencial de aprendizado, já permite antever que as decisões humanas serão baseadas em relatórios e análises elaboradas por IAs superinteligentes, que, certamente, serão determinantes para o resultado.

Contudo, por mais que as programações algorítmicas sejam avançadas, não há garantias da objetividade dos resultados e tampouco segurança e transparência acerca dos critérios utilizados.

Ademais, a hermenêutica filosófica mostra que a interpretação dos fatos se dá conjuntamente com o Direito, num processo circular de significações recíprocas. Nessa perspectiva, é o conhecimento jurídico prévio que irá permitir a identificação da tipicidade dos fatos e isso significa que as interpretações realizadas pelas IAs em seus relatórios constituirão a verdadeira motivação que instruirá os processos decisórios: a IA será a intérprete maior do Direito.

A filosofia da linguagem traz subsídios imprescindíveis para enfrentar e compreender tal problemática, jogando luzes importantes sobre o tema.

Com o advento da virada linguística, já a partir do inicio do século XX, a filosofia promove a substituição da razão iluminista como seu objeto em prol da linguagem, em suas diferentes dimensões, notadamente a lógico-formal, a pragmática e a hermenêutico-fenomenológica [1].

Isso porque a linguagem passa a ser entendida como i) fundamento, ii) meio de realização e iii) modo de manifestação do logos [2], uma vez que ela se constitui, respectivamente, como: i) condição de possibilidade para a compreensão de algo (dimensão ontológico-metafísica), ii) meio pelo qual se pensa sobre o algo e iii) modo de expressão dos pensamentos.

Mais ainda, é possível pensar os objetos a partir da linguagem, embora seja impossível “saltar fora da linguagem” para pensar ela própria [3]. Isto é, mesmo enquanto objeto, a linguagem também é fundamento. Eis o movimento de instauração do novo paradigma.

Desde um ponto de vista hermenêutico, a noção de compreensão se sustenta na chamada duplicidade do logos: i) o logos apofântico, dimensão ôntica, inerente à racionalidade lógico-formal das estruturas dos enunciados e dos objetos no mundo e ii) o logos hermenêutico, racionalidade existencial, do mundo prático que sustenta o conteúdo das estruturas enunciativas dando-lhes significado, portanto inerente à dimensão ontológica (o “ser” que dá sentido ao “ente”) [4].

Assim, um enunciado jurídico simples como: “toda posse justa é protegida pelo Direito” possui um âmbito sintático, superficial e ôntico que se manifesta no texto escrito, nas letras vazadas que necessitam do conteúdo para preenchê-las e atribuir-lhes sentido. É a dimensão apofântica.

Por sua vez, o conteúdo, a matéria existencial que preenche o vazio e sustenta o sentido de cada uma das palavras e da expressão em sua totalidade é a dimensão hermenêutica. Isso significa que, além de estar escrita no Código Civil, a expressão “posse justa” somente ganha sentido quando se sabe o que é “posse” e o que significa “justa”, combinação que forma a norma jurídica [5].

O conteúdo que sustenta o sentido não pode ser arbitrário e alienígena. Ele se constrói “no mundo” e se forma a partir dos acordos compartilhados dos falantes em torno do significado da palavra em uma determinada língua. É, por essa razão, histórico, existencial, evolutivo e inerente ao ethos de um povo. Possui uma dimensão intersubjetiva que lhe garante ares de objetividade, não admitindo fórmulas individuais e subjetivas.

Essas lições da filosofia da linguagem são essenciais para o adequado entendimento das potencialidades e limitações da Inteligência Artificial para a interpretação jurídica e a decisão judicial.

Com efeito, já na primeira aproximação, parece nítido que o algoritmo, fórmula com instruções que subsidiam os procedimentos e as sequências de ações da IA, ocupa a função do logos apofântico. Uma vez que ele trabalha com cálculos de probabilidade para se chegar a determinado resultado, ele desempenha o papel próprio da racionalidade lógico-formal. Depende, portanto, do conteúdo linguístico para trabalhar.

Esse conteúdo pode ser fornecido pelo programador humano ou mesmo adquirido por técnicas de aprendizado a partir de experiências que vai adquirindo e de dados captados – inputs externos não programados previamente (Machine Learning).

Inúmeras são as técnicas, abordagens e níveis de sofisticação do Machine Learning. O Deep Learning, por exemplo, trabalha com dados não estruturados e possui a capacidade de produzir resultados preditivos não programados explicitamente. É também chamado de Rede Neural Profunda (RNP) por ser constituído por camadas de redes complexas e interativas que buscam aproximar-se do modo de funcionamento do cérebro humano.

Todavia, o que ressalta é justamente a capacidade que a IA adquire de aprender com os dados adquiridos, inclusive para criar novos algoritmos e reprogramar-se. Dois chatbots, ambos da Microsoft, são exemplos que bem demonstram essa questão.

Criada em 2016 para conversar com as pessoas de forma natural e divertida e para interagir com os humanos em redes sociais, o chatbot Tay foi corrompido em menos de 24 horas, gerando resultados desastrosos.

Programada para aprender e avançar seus métodos de conversação enquanto interagia com as pessoas, Tay passou a se manifestar de forma racista, transfóbica e agressiva. Chegou a dizer que Hitler estava certo e que ela odiava judeus. [6]

Já o chatbot chinês Xiaoice, foi “vacinado” em sua programação algorítmica para evitar temas polêmicos e a repelir manifestações inconvenientes e comprometedoras [7].

O resultado foi diametralmente inverso ao da Tay: Xioaice desfruta de grande sucesso, com mais de 660 milhões de interlocutores humanos interagindo com ela, escreve poesias e compõe músicas, a ponto de confundir as pessoas entre sua existência real e virtual. Muitos enviam presentes e cartas reais, em uma espécie de namoro digital [8].

Nesse ponto, é possível perquirir se uma IA com tamanho desenvolvimento salta para o mundo do logos hermenêutico. A resposta, no atual estado da arte, ainda é negativa.

Mesmo algoritmos de Deep Learning ou Rede Neural Profunda (RNP) trabalham com cálculos e probabilidades a partir de dados convertidos em números, dados estes oriundos de interação e bastante treinamento. Assim, o aprendizado da máquina se realiza no reforço dos acertos e bloqueio de erros, sem desconsiderá-los como variáveis importantes.

Isso significa que os inputs recebidos se transformam em variáveis de cálculo e não formam consciência hermenêutica, ficando a IA restrita ao logos apofântico.

De outra feita, a formação do logos hermenêutico é muito mais complexa, engloba o processo de construção de significantes durante toda uma vida, com variáveis e interações biológicas e psicanalíticas que, em conjunto, dão ensejo à pré-compreensão determinante para o resultado interpretativo e a consequente decisão judicial.

Em outras palavras: envolve o universo cognitivo existencial humano que não se resume à mera conversão de dados em cálculos e, por conseguinte, não é aferível pelas IAs.

Por mais que, na superfície, os resultados alcançados possam parecer semelhantes, o logos da vida prática e a experiência nele insculpida trazem subsídios necessários para a avaliação dos casos concretos, podendo identificar circunstâncias que não se encaixam na matriz formal e que podem fazer toda a diferença.

Sem consciência hermenêutica não há compreensão e nem responsabilização, jurídica ou ética. Outro ponto de alerta é a ausência de transparência nas análises algorítmicas, podendo gerar discriminações injustificadas não decifráveis, conforme lembra Yuval Noah Harari [9].

O tema é muito instigante e envolve inúmeros questionamentos. Por isso, sem desconsiderar a importância da razão lógica e da necessidade de manutenção da consistência formal e da coerência material, é preciso avançar nas reflexões em torno da Inteligência Artificial como intérprete-mor dos casos concretos e, consequentemente, maior influencer nas decisões judiciais.

[1] Para maior aprofundamento: MARRAFON, Marco Aurélio. O caráter complexo da decisão em matéria constitucional: discursos sobre a verdade, radicalização hermenêutica e fundação ética na praxis jurisdicional. Rio de Janeiro: Lumen Juris, 2010.

[2] Desde a matriz aristótelica, entende-se que logos significa pensar e falar, processos indissociáveis que se realizam na e pela linguagem. A depender do contexto, utilizamos essa expressão também com o sentido de racionalidade, p. ex.: racionalidade hermenêutica ou logos hermenêutico.

[3] STEIN, Ernildo. Racionalidade e existência: uma introdução à filosofia. São Paulo: L&PM Editores, 1998. p. 30-31.

[4] STEIN, Ernildo. Aproximações sobre hermenêutica. Porto Alegre: EDPUCRS, 1996. (coleção filosofia, n. 40)., p. 20 e ss.

[5] Já tratei desse tema em coluna anterior, nesta mesma revista jurídica eletronica: https://www.conjur.com.br/2015-dez-28/constituicao-poder-texto-constitucional-nao-norma-vincula

[6] Disponível em: https://www.tecmundo.com.br/inteligencia-artificial/102782-tay-twitter-conseguiu-corromper-ia-microsoft-24-horas.htm Acesso: 19/07/2019.

[7] Cf. https://www.tudocelular.com/microsoft/noticias/n69338/microsoft-xiaobing-evita-assuntos-polemicos.html Acesso: 19/07/2019.

[8] Cf: https://www.windowsteam.com.br/chineses-estao-namorando-a-ia-da-microsoft-xiaoice/ Acesso 19/07/2019.

[9] HARARI, Yuval Noah. 21 lições para o século 21. Trad. Paulo Geiger. São Paulo: Companhia das Letras, 2019. p. 96-97.

Referências

• Acesse esse artigo no Conjur
• Marco Marrafon está entre os autores desse artigo