STJ Investiga Uso de IA para Fraudar Sistema Eletrônico de Petições
STJ Inicia Investigação Sobre Uso de IA para Fraudar Sistema Eletrônico de Petições
O Superior Tribunal de Justiça (STJ) anunciou nesta quarta-feira (20) a criação de uma investigação completa para analisar o uso de inteligência artificial, especificamente prompts, com o objetivo de contornar o sistema eletrônico de petições do tribunal.
CONTINUA DEPOIS DA PUBLICIDADE
A decisão, tomada pelo presidente do STJ, Herman Benjamin, aciona tanto um inquérito policial quanto um procedimento administrativo interno.
O foco da investigação é a apuração de possíveis fraudes, que teriam sido praticadas por advogados e escritórios de advocacia. A ação surge após uma análise técnica que revelou a utilização de “prompt injection“, uma técnica que explora vulnerabilidades em modelos de IA para influenciar resultados em processos eletrônicos.
Essa prática visa, por exemplo, a admissão de documentos que não atendem aos critérios mínimos exigidos pelo sistema.
Como Funciona a “Prompt Injection”
A “prompt injection” consiste na inserção de comandos ocultos nas petições, buscando induzir o sistema de IA a ignorar filtros de seleção. O objetivo é manipular o sistema para favorecer determinadas partes durante o andamento de um processo. É uma forma de contornar as proteções implementadas para garantir a integridade e a conformidade das petições eletrônicas.
Leia também
CONTINUA DEPOIS DA PUBLICIDADE
Medidas de Segurança do STJ
O STJ ressaltou que o sistema do tribunal já possui mecanismos de segurança que impedem a execução de comandos inseridos por meio de prompts. Essas travas garantem que as ordens da IA não sejam acionadas, protegendo o sistema contra tentativas de manipulação.
A investigação visa identificar como a técnica de “prompt injection” foi utilizada e, consequentemente, fortalecer ainda mais as medidas de segurança do tribunal.
Autor(a):
redacao
Responsável pela produção, revisão e publicação de matérias jornalísticas no portal, com foco em qualidade editorial, veracidade das informações e atualizações em tempo real.
