O Superior Tribunal de Justiça (STJ) anunciou, nesta quarta-feira (20), a abertura de um inquérito e de um procedimento administrativo para investigar a tentativa de uso de uma técnica digital manipuladora chamada “prompt injection” (injeção de comando). O objetivo é apurar se houve fraude processual em pelo menos 11 processos criminais oriundos de Mato Grosso do Sul, São Paulo, Minas Gerais e Distrito Federal.
O que é a técnica
A “prompt injection” ocorre quando alguém insere instruções ocultas e maliciosas em documentos comuns, na tentativa de enganar ou manipular ferramentas de inteligência artificial (IA). No contexto jurídico, a prática poderia induzir sistemas de IA a interpretar ou decidir de forma equivocada, comprometendo a integridade das decisões.
Sistema seguro, mas investigação segue
De acordo com o STJ, o sistema interno “STJ Logos” – uma IA generativa desenvolvida pela própria Corte – já possui camadas de segurança específicas que impedem a execução dessas artimanhas. Mesmo que petições com comandos ocultos sejam recebidas, barreiras de proteção garantem que ordens externas não se sobreponham às regras centrais do tribunal.
O presidente do STJ, ministro Herman Benjamin, declarou que o tribunal já está mapeando todas as tentativas de prompt injection e defendeu a aplicação de sanções processuais, administrativas e criminais aos envolvidos. “O STJ Logos já foi desenvolvido com comandos específicos que impedem estas artimanhas de atuar”, afirmou.
Denúncias e abrangência
A TV Globo teve acesso a um levantamento que aponta 11 processos suspeitos. Um grupo de advogados de Brasília esteve em gabinetes de quatro ministros do STJ para entregar petições com as páginas e os números dos casos. As mesmas suspeitas foram levadas ao Conselho Nacional de Justiça (CNJ).
A prática não se restringe ao STJ. Recentemente, foi identificada uma tentativa semelhante na 3ª Vara do Trabalho de Parauapebas (PA), com objetivo de manipular a IA do Tribunal Regional do Trabalho do Rio Grande do Sul (TRT-RS). Em resposta, o CNJ já recomendou a criação de um banco nacional de prompts para reduzir vulnerabilidades.
Próximos passos
O tribunal ouvirá depoimentos de advogados e escritórios envolvidos. A Presidência do STJ reforçou que, embora a segurança do sistema já impeça a execução desses comandos, é fundamental investigar as tentativas para responsabilizar os autores e preservar a credibilidade da Justiça.