Comando oculto para o leitor híbrido é problema mundial: quem responde e como evitar?

Principais tópicos abordados no artigo “Comando oculto para o leitor híbrido é problema mundial: quem responde e como evitar?”, de Alexandre Morais da Rosa e Fernando Andreoni Vasconcellos.

• Comandos ocultos em documentos processuais: Análise da inserção de textos invisíveis, reduzidos ou camuflados em petições para influenciar sistemas de inteligência artificial usados na leitura e triagem de processos.
• Caso Elliott v. New York Bariatric Group: Exame da decisão da Superior Court de Connecticut que revogou o direito de peticionamento eletrônico após a persistência do litigante em inserir instruções destinadas à IA.
• Comunicação ex parte e violação do contraditório: Comparação entre o comando oculto e uma comunicação indevida dirigida ao sistema de apoio do tribunal sem ciência ou possibilidade de resposta da parte contrária.
• Fenômeno global da prompt injection: Discussão sobre a ocorrência internacional de instruções ocultas em artigos acadêmicos, trabalhos e documentos, destacando que o conteúdo pode ser processado pela IA mesmo sem ser legível para as pessoas.
• Reações recentes do Judiciário brasileiro: Apresentação de medidas adotadas pelo STJ e pelo STF, incluindo multas, certificação de tentativas, comunicação à OAB e ao Ministério Público e investigação de possíveis fraudes processuais.
• Conceito de leitor híbrido: Definição do conjunto formado pelo julgador e pela ferramenta automatizada que o auxilia, sem atribuir personalidade processual ou titularidade de direitos à máquina.
• Leitura assistida por inteligência artificial: Explicação do uso de sistemas automatizados para localizar, extrair, resumir, classificar ou priorizar informações processuais, sem autoridade decisória própria.
• Ilícito novo e enquadramentos jurídicos tradicionais: Avaliação da insuficiência dos dispositivos atuais do CPC para enquadrar integralmente os comandos ocultos e análise das possibilidades de aplicação dos artigos 77, 80 e 81.
• Responsabilidade de advogados, partes e instituições: Distinção entre a responsabilidade da parte e a responsabilidade disciplinar do advogado, da Defensoria Pública, do Ministério Público ou de outros signatários, conforme o artigo 77, § 6º, do CPC.
• Aplicação ao processo penal: Discussão sobre a incidência analógica do CPC por meio do artigo 3º do CPP e sobre os limites impostos pelo estado constitucional de inocência e pela vedação da analogia desfavorável ao acusado.
• Separação entre arguido e defensor: Defesa da regra de que o acusado não deve ser automaticamente responsabilizado por comando inserido em peça que não redigiu, assinou ou necessariamente conheceu.
• Prova da ciência do acusado: Necessidade de demonstrar que o arguido conhecia o conteúdo oculto antes da aplicação de qualquer sanção, sem inversão indevida do ônus probatório.
• Prejuízo concreto ao contraditório: Exigência de demonstração de dano efetivo à participação da parte contrária ou à formação da decisão para justificar a invalidação do ato processual.
• Fraude processual e artigo 347 do Código Penal: Exame da controvérsia sobre a tipicidade penal, especialmente quanto à inovação do estado de lugar, coisa ou pessoa, ao objeto material da conduta e ao dolo de induzir o julgador em erro.
• Resumo estruturado e triagem por IA no STJ: Abordagem das novas exigências regimentais relacionadas à apresentação de sínteses de fatos, fundamentos, pedidos e precedentes para uso em sistemas de triagem.
• Transparência na apresentação de resumos: Indicação de quatro salvaguardas para resumos produzidos ou apresentados pelas partes: identificação da autoria, acesso à peça integral, possibilidade de resposta e prevalência do documento completo.
• Diferença entre resumo visível e manipulação oculta: Destaque de que o resumo transparente pode ser impugnado, enquanto o comando oculto busca influenciar o sistema fora da vista do julgador e da parte adversária.
• Critérios cumulativos para aplicação de sanções: Proposição de quatro requisitos: ocultação ou apresentação enganosa, potencial concreto de interferência, atribuição ao signatário após explicação e comprovação individualizada da hipótese sancionatória.
• Erro técnico, OCR e documentos de terceiros: Afastamento automático da presunção de má-fé em casos de erros de digitalização, camadas de reconhecimento óptico de caracteres e conteúdos inseridos em documentos que não foram produzidos pela parte.
• Dever de conferência do signatário: Reconhecimento de que a assinatura da peça impõe dever de revisão do arquivo, embora dolo e culpa devam influenciar a intensidade da resposta jurídica.
• Litigância de má-fé e ato atentatório à dignidade da justiça: Possibilidade de enquadramento da conduta nos artigos 80, III e V, e 77 do CPC, com atenção à destinação das multas e aos limites aplicáveis aos advogados.
• Escalonamento proporcional das respostas: Proposta de uma sequência que priorize correção e orientação em casos sem dolo, aplique sanções em condutas deliberadas e reserve medidas mais severas para situações de reiteração.
• Supervisão humana efetiva: Necessidade de que quem utiliza ferramentas de IA também confira os resultados, considerando que o leitor híbrido inclui tanto o sistema quanto o profissional responsável por supervisioná-lo.
• Barreiras técnicas de prevenção: Importância de mecanismos de pré-processamento, separação entre instruções e dados, delimitação de escopo e filtros de conformidade para reduzir a eficácia de comandos maliciosos.
• Medidas institucionais recomendadas: Defesa da publicação, pelos tribunais, das ferramentas utilizadas, da adoção de filtros para detectar texto branco, fonte reduzida e caracteres invisíveis e da revisão humana dos alertas.
• Formação e letramento digital: Incentivo à capacitação de escolas e instituições sobre arquivos pesquisáveis, metadados, camadas de OCR e conferência de documentos produzidos por terceiros.
• Hábitos de conferência para peças processuais: Recomendação de prever o resumo que a máquina produzirá, solicitar a melhor objeção ao próprio texto e revisar os pontos em que o arquivo pode comunicar mais do que a tela mostra.
• Procedimentos práticos para identificar comandos ocultos: Orientação para selecionar todo o documento, copiar o conteúdo para editor de texto simples, pesquisar termos associados à IA, verificar palavras fragmentadas e examinar o arquivo em ferramentas de inspeção.
• Preservação da prova digital: Recomendação de conservar o arquivo original, registrar seu hash e comunicar o juízo, evitando apagar o conteúdo oculto antes da documentação da ocorrência.
• Glossário de conceitos centrais: Definição de comando oculto, leitor híbrido, leitura assistida e resumo regulamentar como conceitos essenciais para compreender os riscos da inteligência artificial no processo.