STJ abre inquérito para investigar uso de comandos ocultos para manipular inteligência artificial em processos

A Presidência do Superior Tribunal de Justiça (STJ) determinou, nesta quarta-feira (20), a instauração de um inquérito e de um procedimento administrativo para investigar a utilização de "prompt injection" em processos judiciais. A técnica consiste na inserção de comandos ocultos em documentos para tentar manipular ferramentas de inteligência artificial, e a apuração visa identificar a ocorrência de fraude processual.

A medida foi adotada após a equipe técnica do tribunal detectar um grupo de processos que utilizavam esse método. Como parte das diligências, serão colhidos depoimentos de advogados e dos escritórios envolvidos. O presidente do STJ, ministro Herman Benjamin, manifestou-se a favor da apuração e da responsabilização dos envolvidos.

Apesar da tentativa de interferência, o STJ assegura que as ordens maliciosas não foram executadas. O sistema do tribunal conta com ao menos três camadas de segurança e integridade que impedem que diretrizes externas se sobreponham às regras centrais da ferramenta.

Um levantamento apontou a existência de pelo menos 11 processos criminais com o uso de injeção de comando, embora a Corte tenha informado que não detalhará casos específicos no momento.

A prática de manipular IAs não é exclusiva do STJ. Recentemente, houve uma tentativa semelhante contra a ferramenta do Tribunal Regional do Trabalho do Rio Grande do Sul (TRT-RS) em um processo que tramitava na 3ª Vara do Trabalho de Parauapebas, no Pará. Para mitigar essas vulnerabilidades, o Conselho Nacional de Justiça recomendou a implementação de um banco nacional de prompts.