Artigos Conjur – ChatGPT: ‘Primeiro você alucina, inventa jurisprudência’ ou ‘não era julgado, era cilada’

Artigos Conjur
Artigos Conjur || ChatGPT: ‘Primeiro você alu…Início / Conteúdos / Artigos / Conjur
Artigo || Artigos dos experts no Conjur

ChatGPT: ‘Primeiro você alucina, inventa jurisprudência’ ou ‘não era julgado, era cilada’

O artigo aborda o uso de inteligência artificial no contexto jurídico, destacando um acórdão onde um recurso foi anulado devido à inclusão de jurisprudência fictícia gerada por IA. O autor ressalta a responsabilidade do advogado em revisar documentos gerados por tecnologia, evidencia riscos associados ao uso ingênuo dessas ferramentas, e defende a necessidade de alfabetização digital e letramento para evitar danos à reputação profissional. As discussões são contextualizadas com referências ao potencial de erros e fraudes na utilização de modelos automatizados no direito.

Artigo no Conjur

Acórdão verdadeiro da 1ª Câmara do TJ-PR, rel. dDes. Gamaliel Seme Scaff, nos autos do RESE 0002062-61.2025.8.16.0019 (confira aqui):

“RECURSO EM SENTIDO ESTRITO – COMPETÊNCIA DO JÚRI – DECISÃO DE PRONÚNCIA – INSURGÊNCIA DA DEFESA – NÃO CONHECIMENTO DO RECURSO – RAZÕES RECURSAIS FEITAS COM USO DE INTELIGÊNCIA ARTIFICIAL QUE CRIOU (INVENTOU) QUARENTA E TRÊS JULGADOS INEXISTENTES NO MUNDO REAL, MESCLANDO COM AS ALEGAÇÕES DA DEFESA – IMPOSSIBILIDADE DE SEPARAR O “JOIO DO TRIGO”, O “VERDADEIRO DO FALSO” – IMPOSSIBILIDADE DE ANÁLISE DAS RAZÕES RECURSAIS – ADVERTÊNCIA AO ADVOGADO – IMPOSSIBILIDADE DE FIXAÇÃO DE HONORÁRIOS.

“I -Todas as “jurisprudências” citadas na peça são criações de alguma (des)inteligência artificial. Apenas para exemplificar, esta Corte não tem nenhum desembargador chamado Fábio André Munhoz ou João Augusto Simões (não existe nenhum desembargador no país com esses nomes). Já o Desembargador João Pedro Gebran Neto integra o TRF-4 e não esta Corte. Também, o Desembargador Paulo Roberto Vasconcelos já se aposentou bastante tempo antes das datas mencionadas nos “julgados”. Os números dos “processos” mencionados como sendo desta Corte também são curiosos: “1234-56”; “3456-78”; “12345-67”; “6543-21”; “12346-78”; “9876-34”. Nem um único julgado do STJ e do STF dentre os mencionados, são fidedignos. Ou seja, o recurso todo foi feito com o uso de IA com a finalidade de induzir o colegiado em erro ou fazer troça. Nenhuma hipótese é boa ou justificável.

“II – Como é de geral sabença, apenas e unicamente o advogado detém capacidade postulatória, não um aplicativo de IA. Ainda não chegamos ao ponto de conceder tal benefício a sistemas computacionais. O advogado tem obrigação de, no mínimo, revisar as peças feitas com o uso dessas ferramentas. E a razão da obrigatoriedade dessa revisão é simples: o Poder Judiciário não está brincando de julgar recursos! Ao agir com tamanho descuido e desrespeito, o i. advogado não exterioriza a seriedade que o caso requer e que o seu cliente merece.

“III – Diante dessa balbúrdia textual e contextual da peça dita recursal, para se conseguir chegar a alcançar uma possibilidade de análise do mérito recursal (sem a certeza de que essa eventual síntese representaria adequadamente a insurgência da defesa), seria preciso separar o “joio do trigo”, as alegações verdadeiras das alegações falsas, o que se torna inviável diante de tamanha falta de técnica. Enfim, a peça recursal é imprestável, não havendo como ser conhecida.

“IV – Impossibilidade de estipulação de Honorários advocatícios por absolutamente indevida a sua fixação no presente caso. Noutro giro, IA também não faz jus aos mesmos. RECURSO NÃO CONHECIDO.”

Se você ficou pensativo: será que é verdade? Também fiquei na dúvida. Em vez de perguntar ao GPT, fui consultar Fernando Andreoni Vasconcellos, magistrado do Tribunal de Justiça do Paraná, que me confirmou, mandando o acórdão e o link. Segue o print:

O uso de inteligência artificial generativa [IAG] é uma realidade no contexto do Direito e do processo penal, tendo o CNJ regulamentado a temática na Resolução 615/25, explicado aqui nesta ConJur por Lígia Kunzendorff Mafra (aqui). No entanto, seguirei por outro caminho. Além de ser novidade, antes de se lançar críticas superficiais ou de se arriscar no uso ingênuo de LLMs, ampliando o risco associado a estragos na reputação profissional, com a possível responsabilização pela perda de uma chance, conforme aponta Clarissa Medeiros Cardoso (A Teoria da Perda de Uma Chance na Relação entre Cliente e Advogado: uma análise jurisprudencial da compreensão do tema pelos Tribunais brasileiros. UFSC; 2016):

“[…] a depender da falta cometida pelo advogado, dentro dos casos de reparação pelo inadimplemento contratual, a perda do prazo pode dar azo, também, à responsabilização do advogado pelas chances perdidas. Esta possibilidade ocorrerá se, e somente se, ficar comprovado que a pretensão do cliente tinha chances sérias e reais de conferirem-lhe um resultado positivo ou, pelo menos, diminuírem-lhe eventual prejuízo. Não será, portanto, toda e qualquer inobservância de prazo que fará ensejar a responsabilização do advogado pelas chances perdidas. Ela se dará apenas nos casos em que demonstradas sua seriedade e sua realidade dentro de um lapso temporal pré-estabelecido, o que se coaduna perfeitamente com o enunciado do inc. IV do art. 34 da Lei n. 8.906/94.”

Logo, além da discussão sobre a ausência ou deficiência de defesa, porque nenhum dos modelos GPT, Lhama, Mistral, Maritaca (brasileira) etc. graduou-se em Direito, nem está inscrito na OAB, insight final do voto do relator de que a IA não faz jus aos honorários, podendo ser a causa suficiente da responsabilização civil caso se verifique a perda de uma chance (avaliação da probabilidade de provimento do recurso).

Para que se tenha um debate qualificado e se evite o uso ingênuo dos modelos, impõe-se:

alfabetização digital: aquisição e desenvolvimento de competências para navegar, compreender, analisar e utilizar tecnologias digitais de modo operacional e ético (uso de dispositivos eletrônicos; pesquisa online; análise crítica da informação; identificação de pontos de vista potencializados em conteúdos digitais e consciência sobre direitos fundamentais: dignidade, privacidade, proteção de dados etc.). letramento digital: competência associada à capacidade de interação e análise crítica dos conteúdos digitais, compreensão e interpretação de mensagens multimodais, contextos híbridos, onlife [aqui] ou digitais, além do impacto nas relações sociais e profissionais, incluindo uso de IA Generativa.

Por mais que você esteja incluído digitalmente, sem alfabetização e letramento, em geral, você perde oportunidades competitivas por birra, ingenuidade ou desconhecimento, além de cair nas armadilhas de modelos de inteligência artificial que não são robustos o suficiente à aplicação em tarefas profissionais, especialmente no processo penal.

É simplesmente ilógico confundir “IA Generativa” (subcampo ou subárea do conhecimento) com os “Modelos específicos de IA Generativa” (implementações) pelo mesmo motivo que é errado confundir o conceito de “carro” com um “carro específico: T-Cross, Renegade, Chevette ou Monza (homenagem aos mais saudosos), enfim, confundir entidade com instância. Os modelos são representantes (instâncias) com uma das diversas arquiteturas disponíveis, dominada por “Transformers” (não confundir com o filme). Aliás, Filipe Lauar comanda o podcast Vida com IA sob o lema: “inteligência artificial de uma forma simples”. Vale conferir.

Em vez fazer uma crítica exibida, decidi fazer um duo com o GPT 4.1, construindo uma paródia que represente o uso ingênuo de jurisprudência, a partir da letra da música Grito de Alerta. Leia na voz de Maria Bethânia, Gonzaguinha ou Bruno & Marrone:

Primeiro você alucina Inventa jurisprudência E me joga na cara um julgado que nunca existiu

Depois vem gerando desculpas Assim, meio insistindo Querendo ganhar um “like” legal

Não vê que então eu me irrito Confiro, descubro, me frustro e deleto a sessão E assim minha vida é um prazo estourando O tempo esgotando e eu vou perguntando “Vai inventar até quando?”

Se são tantos acórdãos fajutos Surgindo, iludindo, minando Aos poucos o que podia ser real

Se são prompts perdidos num limbo De tokens e “embeddings” Num jogo de dados que me causa tanto mal

Não quero a IA grátis pois eu sei o quão está errada E o quanto minha reputação fez destruir Só sinto na tela o momento em que o prompt foi cheio E que a resposta não dá pra engolir!

Veja bem Nosso “caso” é um prompt sem resposta certa E eu busquei a query mais esperta Vê se entende: é lixo essa tua “oferta”!

Veja bem É o prazo agitando a minha petição Há um lado cansado querendo um “Ctrl+V” E a câmara do tribunal negando provimento, dizendo “aqui Não!“

A pesquisa em jurisprudência é como ‘procurar uma agulha num palheiro’, ainda que melhorada por técnicas (p.ex., google dorks) ou inteligência artificial generativa, com os riscos associados (erros; alucinações; desatualização etc.), salvo os agentes inteligentes treinados, supervisionados e controlados por especialistas humanos (curadores: Gabriel Bulhões, Delano de Sousa; Joaquim Neto pesquisam isso).

Salvo se você for da geração ‘Z’ ou ‘Alfa’ [nato-digitais] os desafios cognitivos para aquisição e atualização das competências digitais se renovam diariamente (conhecimentos, habilidades; experiências; alfabetização; letramento). Se, em geral, os currículos do Curso de Direito são insuficientes à aquisição de competências associadas ao ambiente digital e às novas oportunidades tecnológicas vinculadas à inundação informacional, então a formação adequada depende de seu esforço pessoal.

A aprendizagem autodidata pode ocorrer com pesquisas aleatórias no google, ChatGPT ou supervisionada por alguém com mais tempo de estrada e que, por isso, auxilia a desviar de armadilhas cognitivas e de erros evitáveis (há muita oferta de produtos e cursos inúteis). Os desafios são imensos porque ninguém se torna profissional qualificado sem esforço pessoal, atitude, alocação de tempo e de recursos orientados à melhoria do desempenho nesse novo mundo digital (alfabetização e letramento informacional). Essa parte é com você, até porque a aprendizagem de adultos é muito mais complexa e sensível.

Em resumo: IA generativa veio para ficar. É uma vantagem competitiva. Mas cuidado. Confira e priorize modelos supervisionados e que indicam as fontes de consulta com link para fazer a prova dos 9. No mundo das Fake-News, surgem as variantes: Fake-Case-Law, Fake-Jus. Quem for ingênuo pode acabar cantando: “não era julgado, era cilada”. (Molejo).

Referências

Relacionados || Outros conteúdos desse assunto
    Mais artigos || Outros conteúdos desse tipo
      Alexandre Morais da Rosa || Mais conteúdos do expert
        Acesso Completo! || Tenha acesso aos conteúdos e ferramentas exclusivas

        Comunidade Criminal Player

        Elabore sua melhor defesa com apoio dos maiores nomes do Direito Criminal!

        Junte-se aos mais de 1.000 membros da maior comunidade digital de advocacia criminal no Brasil. Experimente o ecossistema que já transforma a prática de advogados em todo o país, com mais de 5.000 conteúdos estratégicos e ferramentas avançadas de IA.

        Converse com IAs treinadas nos acervos de Aury Lopes Jr, Alexandre Morais da Rosa, Rodrigo Faucz, Gabriel Bulhões, Cristiano Maronna e outros gigantes da área. Explore jurisprudência do STJ com busca inteligente, análise de ANPP, depoimentos e muito mais. Tudo com base em fontes reais e verificadas.

        Ferramentas Criminal Player

        Ferramentas de IA para estratégias defensivas avançadas

        • IAs dos Experts: Consulte as estratégias de Aury Lopes Jr, Alexandre Morais da Rosa, Rodrigo Faucz, Gabriel Bulhões e outros grandes nomes por meio de IAs treinadas em seus acervos
        • IAs de Jurisprudência: Busque precedentes com IAs semânticas em uma base exclusiva com mais de 200 mil acórdãos do STJ, filtrados por ministro relator ou tema
        • Ferramentas para criminalistas: Use IA para aplicar IRAC em decisões, interpretar depoimentos com CBCA e avaliar ANPP com precisão e rapidez
        Ferramentas Criminal Player

        Por que essas ferramentas da Criminal Player são diferentes?

        • GPT-4 com curadoria jurídica: Utilizamos IA de última geração, ajustada para respostas precisas, estratégicas e alinhadas à prática penal
        • Fontes verificadas e linkadas: Sempre que um precedente é citado, mostramos o link direto para a decisão original no site do tribunal. Transparência total, sem risco de alucinações
        • Base de conhecimento fechada: A IA responde apenas com conteúdos selecionados da Criminal Player, garantindo fidelidade à metodologia dos nossos especialistas
        • Respostas com visão estratégica: As interações são treinadas para seguir o raciocínio dos experts e adaptar-se à realidade do caso
        • Fácil de usar, rápido de aplicar: Acesso prático, linguagem clara e sem necessidade de dominar técnicas complexas de IA
        Comunidade Criminal Player

        Mais de 5.000 conteúdos para transformar sua atuação!

        • Curso Teoria dos Jogos e Processo Penal Estratégico: Com Alexandre Morais da Rosa e essencial para quem busca estratégia aplicada no processo penal
        • Curso Defesa em Alta Performance: Conteúdo do projeto Defesa Solidária, agora exclusivo na Criminal Player
        • Aulas ao vivo e gravadas toda semana: Com os maiores nomes do Direito Criminal e Processo Penal
        • Acervo com 130+ Experts: Aulas, artigos, vídeos, indicações de livros e materiais para todas as fases da defesa
        • IA de Conteúdos: Acesso a todo o acervo e sugestão de conteúdos relevantes para a sua necessidade
        Comunidade Criminal Player

        A força da maior comunidade digital para criminalistas

        • Ambiente de apoio real: Conecte-se com colegas em fóruns e grupos no WhatsApp para discutir casos, compartilhar estratégias e trocar experiências em tempo real
        • Eventos presenciais exclusivos: Participe de imersões, congressos e experiências ao lado de Aury Lopes Jr, Alexandre Morais da Rosa e outros grandes nomes do Direito
        • Benefícios para membros: Assinantes têm acesso antecipado, descontos e vantagens exclusivas nos eventos da comunidade

        Assine e tenha acesso completo!

        • 75+ ferramentas de IA para estratégias jurídicas com base em experts e jurisprudência real
        • Busca inteligente em precedentes e legislações, com links diretos para as fontes oficiais
        • Curso de Alexandre Morais da Rosa sobre Teoria dos Jogos e Processo Penal Estratégico
        • Curso Defesa em Alta Performance com Jader Marques, Kakay, Min. Rogério Schietti, Faucz e outros
        • 5.000+ conteúdos exclusivos com aulas ao vivo, aulas gravadas, grupos de estudo e muito mais
        • Fóruns e grupos no WhatsApp para discutir casos e trocar experiências com outros criminalistas
        • Condições especiais em eventos presenciais, imersões e congressos com grandes nomes do Direito
        Assinatura Criminal Player MensalAssinatura Criminal Player SemestralAssinatura Criminal Player Anual

        Para mais detalhes sobre os planos, fale com nosso atendimento.

        Quero testar antes

        Faça seu cadastro como visitante e teste GRÁTIS por 7 dias

        • Ferramentas de IA com experts e jurisprudência do STJ
        • Aulas ao vivo com grandes nomes do Direito Criminal
        • Acesso aos conteúdos abertos da comunidade

        Já sou visitante

        Se você já é visitante e quer experimentar GRÁTIS por 7 dias as ferramentas, solicite seu acesso.