O Superior Tribunal de Justiça (STJ) deu um passo decisivo nesta quarta-feira (20) ao determinar a abertura de um inquérito e de um procedimento administrativo rigoroso para investigar o uso de "prompt injection" – técnica de manipulação de sistemas de Inteligência Artificial – em documentos processuais. A medida, capitaneada pela Presidência do tribunal, busca identificar se houve manobras intencionais para induzir o Judiciário ao erro ou manipular o resultado de julgamentos, configurando possível fraude processual.
A decisão ocorre após a equipe técnica do tribunal detectar irregularidades em um conjunto de processos, onde usuários mal-intencionados tentaram inserir comandos ocultos em petições. O objetivo dessas instruções escondidas é forçar a ferramenta de IA a ignorar suas diretrizes de segurança originais ou a processar dados de forma alterada. Diante da gravidade da situação, o ministro Herman Benjamin, presidente do STJ, reforçou o compromisso da instituição com a integridade digital, declarando que o tribunal não tolerará tentativas de subversão do sistema tecnológico da casa.
📲 Fique por dentro das notícias de Arcoverde!
Agora o Arcoverde Agora também tem um canal oficial no WhatsApp, onde você recebe em primeira mão as principais informações da cidade e do Sertão do Moxotó.
👉 Clique aqui e entre no nosso canal
Embora o uso de "prompt injection" tenha sido identificado, o STJ assegura que suas camadas de segurança interna impediram que as ordens maliciosas fossem executadas. Segundo o tribunal, o sistema 'Logos', desenvolvido especificamente para a corte, já conta com proteções robustas projetadas para anular tais artimanhas. Contudo, o rastreamento desses episódios é fundamental para a aplicação de sanções, tanto na esfera administrativa quanto na criminal, para advogados e partes envolvidas.
O fenômeno não é isolado e reflete um desafio tecnológico crescente no sistema judiciário brasileiro. Relatos similares já foram observados no Tribunal Regional do Trabalho (TRT) e em outras instâncias, levando o Conselho Nacional de Justiça (CNJ) a recomendar a criação de um banco nacional de prompts para unificar protocolos de segurança. A investigação do STJ agora foca na coleta de depoimentos e na análise detalhada dos casos identificados, reforçando que o uso da tecnologia na justiça deve ser pautado pela ética e pela transparência, combatendo severamente qualquer tentativa de contaminação algorítmica.
