STJ Investiga Manipulação de Inteligência Artificial

Nesta quarta-feira (20), o Superior Tribunal de Justiça (STJ) anunciou a abertura de um inquérito e um procedimento administrativo para investigar o uso de 'prompt injection', técnica que visa manipular a inteligência artificial (IA) utilizada nos processos judiciais. O objetivo é verificar se houve tentativas de fraude processual.

A investigação se concentrará em depoimentos de advogados e escritórios envolvidos, após técnicos do tribunal identificarem processos que utilizam essa prática maliciosa. A prompt injection permite que usuários mal-intencionados insiram comandos ocultos em documentos comuns, visando enganar o sistema de IA.

O presidente do STJ, ministro Herman Benjamin, enfatizou a necessidade de apurar e responsabilizar os envolvidos. Ele ressaltou que o sistema de IA generativa desenvolvido pelo STJ, o STJ Logos, possui comandos específicos para evitar tais manipulações e que a corte está mapeando todas as tentativas de prompt injection para aplicar sanções processuais e investigar responsabilidades administrativas e criminais.

O STJ explicou que, mesmo recebendo petições com injeções de comando ocultas, diversas camadas de segurança garantem que as ordens maliciosas não sejam executadas. Atualmente, existem pelo menos três camadas de segurança em vigor para proteger as regras centrais do sistema.

Recentemente, o ATV Globo teve acesso a informações sobre 11 processos criminais que apresentaram indícios de prompt injection, abrangendo estados como Mato Grosso do Sul, São Paulo, Minas Gerais e o Distrito Federal. Os advogados de Brasília que denunciaram esses casos no gabinete de quatro ministros também informaram ao Conselho Nacional de Justiça (CNJ).

Além do STJ, casos de prompt injection foram identificados em outros tribunais, como na 3ª Vara do Trabalho de Parauapebas (PA), onde tentativas de manipulação da IA do Tribunal Regional do Trabalho do Rio Grande do Sul (TRT-RS) foram registradas. Em resposta, o CNJ recomendou a criação de um banco nacional de prompts para mitigar vulnerabilidades associadas a essa prática.