O Superior Tribunal de Justiça (STJ) determinou a abertura de investigação para apurar o uso indevido de inteligência artificial em documentos apresentados ao tribunal. A medida foi tomada após equipes técnicas identificarem tentativas de manipulação do sistema automatizado utilizado na análise inicial de processos eletrônicos.

A apuração envolve advogados e escritórios que teriam inserido instruções ocultas em petições com o objetivo de interferir no funcionamento da tecnologia empregada pela Corte. O caso também motivou a instauração de procedimento administrativo interno para avaliar possíveis responsabilidades disciplinares.

Entenda o que está sendo investigado

Segundo informações divulgadas pelo tribunal, os documentos continham comandos escondidos no texto, técnica conhecida no meio tecnológico como prompt injection. O método consiste em incluir orientações invisíveis ao leitor comum, mas que podem ser interpretadas por sistemas de inteligência artificial durante o processamento do conteúdo.

A suspeita é que essas instruções buscassem alterar o comportamento da ferramenta utilizada pelo tribunal para classificação e triagem dos processos.

Na prática, a tentativa seria permitir que determinados documentos avançassem etapas internas mesmo sem preencher integralmente critérios técnicos exigidos pela análise automatizada.

Sistema identificou e neutralizou tentativas

O tribunal informou que nenhuma das tentativas produziu efeitos práticos e que os mecanismos internos de proteção impediram qualquer interferência no fluxo processual.

De acordo com a área técnica do STJ, o sistema opera com múltiplas camadas de segurança destinadas justamente a impedir que comandos externos alterem decisões automatizadas ou influenciem critérios institucionais.

Entre os mecanismos adotados estão filtros de validação, separação entre conteúdo documental e comandos operacionais, além de revisões automáticas de conformidade antes da conclusão das análises.

Caso pode gerar consequências criminais e administrativas

Todos os episódios identificados serão registrados formalmente nos respectivos processos e poderão servir de base para medidas judiciais e administrativas.

Além da investigação policial, o tribunal avalia eventual aplicação de sanções processuais aos responsáveis, caso sejam confirmadas irregularidades.

As condutas investigadas poderão ser analisadas sob diferentes aspectos jurídicos, incluindo eventual fraude processual, inserção indevida de conteúdo em documentos eletrônicos e outras infrações previstas na legislação.

O episódio também reacendeu o debate sobre os limites éticos do uso de inteligência artificial no ambiente jurídico e sobre os desafios de segurança diante da ampliação do uso dessas ferramentas pelo sistema de Justiça brasileiro.