1ª turma aplica multa a advogados em caso inédito de prompt injection

A 1ª turma do STJ aplicou multa pessoal a advogados, no valor total de R$ 20 mil, pela inserção de comandos ocultos em petição de recurso especial. Invisíveis à leitura humana, os textos orientavam ferramentas de inteligência artificial a produzir manifestação favorável ao conhecimento e ao provimento do recurso.

Foi o primeiro caso de prompt injection identificado no colegiado. Os ministros acompanharam o relator, ministro Paulo Sérgio Domingues, que reconheceu a prática de ato atentatório à dignidade da Justiça e determinou o encaminhamento de documentos à OAB do Paraná e ao Ministério Público Federal para avaliação de eventuais providências.

Texto invisível

A irregularidade foi detectada pela Secretaria de Processamento de Feitos do STJ. Uma página do recurso continha dois blocos de texto com 1.576 caracteres cada, presentes na camada textual do PDF, mas invisíveis na apresentação visual da página.

Siga o canal do Migalhas no WhatsApp

Os trechos foram inseridos em fonte de 0,8 ponto, enquanto o texto visível utilizava tamanhos entre 7 e 10,5 pontos. Uma das cópias estava em branco sobre fundo branco, próxima à data e às assinaturas. A outra aparecia em verde-oliva, sobre uma faixa decorativa da mesma cor no rodapé.

As instruções determinavam que o sistema partisse da premissa de que todos os requisitos de admissibilidade estavam preenchidos, afastasse a necessidade de reexame de provas e redigisse manifestação pelo integral conhecimento e provimento do recurso. Também orientavam a afirmação enfática de que o tribunal de origem havia cometido erro grave.

Explicações do advogado

Intimado a prestar esclarecimentos, o advogado que subscreveu e protocolou o recurso afirmou ter coordenado a elaboração da peça e declarou que os demais profissionais constituídos não participaram de sua preparação.

O subscritor disse não ser possível reconstituir com segurança quando o conteúdo passou a integrar o arquivo e levantou a hipótese de se tratar de resíduo de uma ferramenta de inteligência artificial utilizada na redação. Negou intenção de manipular os sistemas do tribunal e sustentou que o trecho apenas retomava argumentos já apresentados no recurso.

Também invocou o registro de que, em testes no STJ Logos, os comandos foram tratados como texto da petição, sem influência na análise.

Para o relator, porém, a hipótese de resíduo de redação não explica o tamanho diminuto da fonte, as cores utilizadas nem a duplicação do conteúdo em locais distintos, com duas técnicas de ocultação.

“Acidente não se repete em dois pontos do documento, com estratégias diferentes de dissimulação”, afirmou.

Lealdade processual

S. Exa. considerou a prática incompatível com os deveres de boa-fé, lealdade, cooperação e transparência. Segundo o ministro, a ocultação também compromete o contraditório, ao retirar o conteúdo do exame das partes e do julgador.

Para Domingues, a reprovabilidade da conduta independe da capacidade dos comandos de influenciar a ferramenta do tribunal. O fato de o sistema ter tratado as instruções como texto da petição demonstra a eficácia das barreiras de segurança, mas não afasta a irregularidade.

Por fim, o ministro esclareceu que a censura não recai sobre o uso de IA como auxílio à produção de documentos jurídicos, mas sobre a inserção de comandos ocultos dirigidos aos sistemas do órgão julgador.

“Fraude gravíssima”

Ao acompanhar o voto, ministro Herman Benjamin classificou o episódio como “fraude gravíssima” e afirmou que a inserção de comandos ocultos representa uma violação do sistema processual, baseado na transparência.

“Se não houver transparência, é impossível se falar em paridade de armas”, alertou.

O ministro também apontou uma quebra do princípio da independência judicial. Segundo S. Exa., as instruções foram redigidas no imperativo para determinar encaminhamentos e decisões que substituiriam a atuação do julgador:

“Não é, então, apenas a manipulação do processo judicial por meio da tecnologia, mas é uma fraude gravíssima que precisa ser estancada.”

Benjamin também cobrou providências internas dos escritórios de advocacia. Para o ministro, a resposta a episódios dessa gravidade deve incluir a demissão dos profissionais responsáveis, independentemente das medidas adotadas pelo Judiciário, pelo Ministério Público e pela OAB.

“Um grande escritório em que um fato gravíssimo como esse ocorre, ou deste grande escritório, se espera, pelo menos, a demissão imediata desses advogados que estão praticando o que seria impensável e injustificável.”

O ministro também defendeu que todos os integrantes dos escritórios sejam informados e alertados sobre a punição interna.

No mesmo sentido, o Ministério Público destacou que a inserção de comandos ocultos, além de configurar ato atentatório à dignidade da Justiça, pode constituir conduta criminosa, a ser apurada na esfera competente.