Brasil

STJ pune tentativas de manipular sistemas de IA por meio de petições judiciais

Tribunal enquadrou comandos ocultos como litigância de má-fé e ato atentatório à Justiça, enquanto o CNJ estabelece regras de segurança para ingestão de documentos.

Capa ilustrativa da editoria Brasil

Por que importa. O caso expõe os riscos de injeção indireta de prompt em pipelines de RAG que consomem arquivos de terceiros, exigindo que desenvolvedores tratem documentos externos como entradas não confiáveis.

O Superior Tribunal de Justiça (STJ) julgou casos inéditos envolvendo a técnica de injeção de prompt dentro de petições, segundo a edição 902 do Informativo de Jurisprudência da corte. Advogados inseriram comandos invisíveis em arquivos digitais para tentar induzir modelos de linguagem usados pelo tribunal a favorecer suas teses.

Na Segunda Turma, os ministros consideraram a prática litigância de má-fé após identificarem uma peça que usava texto branco sobre fundo branco e espaçamento alterado. O comando pedia ao sistema que considerasse o argumento vencedor. O colegiado fixou multa de 10% do valor da causa e acionou a Polícia Federal, o Ministério Público Federal, a OAB e o município do procurador. Na Sexta Turma, uma instrução voltada a forçar o provimento automático de recurso foi classificada como ato atentatório à dignidade da Justiça.

Blindagem contra ataques adversariais

As tentativas de fraude miravam a infraestrutura interna do tribunal, que utiliza o STJ Logos, motor de inteligência artificial generativa lançado em fevereiro de 2025 para auxiliar na leitura de autos, elaboração de relatórios e triagem de admissibilidade. A Sexta Turma reforçou durante o julgamento que os magistrados e suas equipes analisam os processos e que minutas não são assinadas sem revisão humana.

A resposta técnica ao problema começou antes do julgamento dos recursos. Em maio, o Comitê Nacional de Inteligência Artificial do Judiciário instituiu o Proseg-IA para mapear riscos adversariais. Em junho, o Conselho Nacional de Justiça aprovou diretrizes de ingestão segura de documentos, exigindo que ferramentas que resumem ou classificam arquivos preservem metadados visuais e estruturais para barrar conteúdos ocultos.

Fontes

Reportagem produzida pela redação do Flipters com apoio de inteligência artificial, a partir das fontes acima. Como trabalhamos. Editor responsável: João Paulo Resende.

WhatsAppLinkedInX
Voltar para a edição

Mais em Brasil

Ver todas

Quem constrói lê

Receba o Flipters no seu e-mail. A newsletter de IA para quem está tirando produto do papel.