STJ pune tentativas de manipular sistemas de IA por meio de petições judiciais
Tribunal enquadrou comandos ocultos como litigância de má-fé e ato atentatório à Justiça, enquanto o CNJ estabelece regras de segurança para ingestão de documentos.
Por que importa. O caso expõe os riscos de injeção indireta de prompt em pipelines de RAG que consomem arquivos de terceiros, exigindo que desenvolvedores tratem documentos externos como entradas não confiáveis.
O Superior Tribunal de Justiça (STJ) julgou casos inéditos envolvendo a técnica de injeção de prompt dentro de petições, segundo a edição 902 do Informativo de Jurisprudência da corte. Advogados inseriram comandos invisíveis em arquivos digitais para tentar induzir modelos de linguagem usados pelo tribunal a favorecer suas teses.
Na Segunda Turma, os ministros consideraram a prática litigância de má-fé após identificarem uma peça que usava texto branco sobre fundo branco e espaçamento alterado. O comando pedia ao sistema que considerasse o argumento vencedor. O colegiado fixou multa de 10% do valor da causa e acionou a Polícia Federal, o Ministério Público Federal, a OAB e o município do procurador. Na Sexta Turma, uma instrução voltada a forçar o provimento automático de recurso foi classificada como ato atentatório à dignidade da Justiça.
Blindagem contra ataques adversariais
As tentativas de fraude miravam a infraestrutura interna do tribunal, que utiliza o STJ Logos, motor de inteligência artificial generativa lançado em fevereiro de 2025 para auxiliar na leitura de autos, elaboração de relatórios e triagem de admissibilidade. A Sexta Turma reforçou durante o julgamento que os magistrados e suas equipes analisam os processos e que minutas não são assinadas sem revisão humana.
A resposta técnica ao problema começou antes do julgamento dos recursos. Em maio, o Comitê Nacional de Inteligência Artificial do Judiciário instituiu o Proseg-IA para mapear riscos adversariais. Em junho, o Conselho Nacional de Justiça aprovou diretrizes de ingestão segura de documentos, exigindo que ferramentas que resumem ou classificam arquivos preservem metadados visuais e estruturais para barrar conteúdos ocultos.
Fontes
- MIT Technology Review Brasil: Quando uma petição tenta manipular a IA do tribunal
Reportagem produzida pela redação do Flipters com apoio de inteligência artificial, a partir das fontes acima. Como trabalhamos. Editor responsável: João Paulo Resende.
