O Superior Tribunal de Justiça determinou a abertura de uma investigação para apurar o uso de comandos ocultos de inteligência artificial em petições eletrônicas enviadas ao sistema da Corte. A decisão foi anunciada nesta quarta-feira (20) pelo presidente do tribunal, ministro Herman Benjamin.
Segundo o STJ, foram instaurados um inquérito policial e um procedimento administrativo interno para investigar possíveis tentativas de fraude envolvendo advogados e escritórios de advocacia.
A medida foi tomada após técnicos identificarem petições contendo técnicas conhecidas como “prompt injection”, método utilizado para inserir comandos ocultos em ferramentas de inteligência artificial com o objetivo de influenciar respostas automatizadas.
De acordo com o tribunal, os comandos eram inseridos nos documentos para tentar fazer com que sistemas automatizados ignorassem filtros de admissibilidade ou realizassem análises superficiais dos processos. O STJ informou ainda que as plataformas utilizadas pela Corte possuem mecanismos de segurança capazes de identificar e bloquear esse tipo de tentativa de manipulação.
Caso no Pará teve repercussão nacional
Na ocasião, duas advogadas foram multadas pela Justiça do Trabalho após a identificação de um comando oculto em uma petição trabalhista. Segundo a decisão judicial, o texto escondido orientava a ferramenta de IA da Justiça a realizar uma análise superficial do processo.
O sistema “Galileu”, utilizado para auxiliar magistrados na leitura de documentos e elaboração de minutas, identificou a tentativa de manipulação. O caso acabou repercutindo nacionalmente e ampliou o debate sobre ética e uso da inteligência artificial no Judiciário.
Os episódios reacenderam discussões sobre os limites do uso da inteligência artificial no sistema judicial brasileiro. Especialistas defendem que as ferramentas podem agilizar análises e organização processual, mas alertam para a necessidade de fiscalização, transparência e supervisão humana constante.
Leia também: