STJ instaura investigação após detectar uso de comandos de inteligência artificial para ludibriar sistema de petições

A tecnologia jurídica enfrenta um novo e complexo desafio na garantia da integridade de seus processos eletrônicos. O Superior Tribunal de Justiça (STJ) determinou a abertura imediata de frentes de apuração para investigar a utilização de comandos de inteligência artificial voltados a burlar o sistema de recebimento de peças processuais da corte.

A ação institucional foi coordenada diretamente pelo presidente do tribunal, ministro Herman Benjamin. Sob sua determinação, foram iniciados, de forma simultânea, um inquérito policial e um procedimento administrativo interno para apurar os indícios de fraudes, que teriam sido orquestradas por advogados e bancas de advocacia atuantes no sistema.

Mecanismo de injeção de comandos buscava forçar a aceitação de documentos
A necessidade de uma intervenção investigativa ocorreu após o corpo técnico de tecnologia da informação do STJ rastrear o ingresso de petições que continham a técnica conhecida como prompt injection. Esse artifício consiste na inserção de instruções ocultas no texto com o objetivo específico de enganar os modelos de inteligência artificial e gerar vantagens indevidas para uma das partes ao longo da tramitação digital de uma ação judicial.

Na prática, esses comandos camuflados tentavam manipular os algoritmos do tribunal, forçando o sistema automatizado a ignorar os filtros de seleção regulamentares. A intenção das investidas fraudulentas era fazer com que o sistema validasse e admitisse documentos que, em condições normais de análise, seriam rejeitados por não cumprirem os requisitos básicos exigidos pela legislação processual.

Bloqueios de segurança impediram que as fraudes fossem consumadas
Apesar das investidas, o Superior Tribunal de Justiça informou que os mecanismos de proteção da corte funcionaram de maneira adequada. A plataforma digital do tribunal dispõe de travas de segurança e barreiras de proteção desenvolvidas justamente para identificar e neutralizar esse tipo de instrução maliciosa, o que impediu que os comandos ocultos fossem efetivamente executados pela plataforma de recebimento das petições. Com informações da Agência Brasil