A decisão do TRT-5 de multar um advogado após identificar um comando oculto em uma petição reacendeu o debate sobre segurança, ética e governança no uso da inteligência artificial no sistema de Justiça.
No caso, o Tribunal identificou que a petição continha instruções direcionadas a ferramentas de inteligência artificial, e não ao julgador, o que levou à aplicação da multa por entender que a conduta era incompatível com os deveres de lealdade e boa-fé processual. O episódio coloca em evidência um desafio cada vez mais presente à medida que tribunais e escritórios incorporam sistemas de IA às suas rotinas.
A prática, conhecida como prompt injection, consiste na inserção de instruções direcionadas a ferramentas de IA no próprio documento submetido à análise. Esses comandos podem aparecer de forma visível ou dissimulada, em fonte branca, caracteres reduzidos, metadados ou trechos pouco perceptíveis de arquivos em PDF, com o objetivo de influenciar a interpretação automatizada do conteúdo.
Para Ivan Almeida do Amaral, gestor de Inteligência Jurídica e sócio do Pessoa & Pessoa Advogados Associados, o episódio representa um alerta para o fortalecimento da governança no uso da inteligência artificial, sem que isso signifique resistência à inovação.
"Uma petição contendo um comando malicioso não 'hackeia', por si só, um tribunal ou um escritório. O problema surge quando esse tipo de instrução tenta interferir em ferramentas de IA usadas para apoiar a análise do processo. Quanto maior for a autonomia da ferramenta dentro do fluxo de trabalho, maior deverá ser o nível de controle, supervisão e responsabilidade", afirma.
Segundo o advogado, o risco se torna mais relevante quando a IA é empregada em atividades como triagem de processos, resumo de documentos, classificação de risco, elaboração de minutas ou apoio à tomada de decisões sem uma revisão humana efetiva.
"O uso de IA para pesquisa de jurisprudência, organização de documentos, revisão de linguagem ou apoio à redação de peças é legítimo e pode trazer ganhos importantes de eficiência. A situação é diferente quando comandos ocultos buscam alterar o comportamento de ferramentas utilizadas na análise processual, explorando vulnerabilidades do ambiente tecnológico", explica.
Ainda que o comando não produza efeito concreto, sua inserção pode ser considerada incompatível com o dever de boa-fé processual e comprometer a confiança na atuação da parte ou de seu representante legal.
"Nem todo erro técnico ou texto residual significa má-fé. É preciso analisar a intenção, o contexto, a forma como o comando foi inserido, seu potencial de dano e os impactos efetivos ou possíveis da conduta. Quando há ocultação deliberada e tentativa de interferir na análise automatizada, pode haver discussão sobre litigância de má-fé, ato atentatório à dignidade da Justiça e outras formas de responsabilização", pontua.
Na avaliação do especialista, a resposta ao problema exige mais do que soluções tecnológicas isoladas.
"Filtros automáticos ajudam, mas não eliminam o risco sozinhos. É necessário combinar controles técnicos, protocolos humanos de conferência, auditoria, rastreabilidade e treinamento das equipes", afirma.
Entre as medidas recomendadas estão a validação de documentos recebidos de terceiros, a identificação de textos ocultos e metadados suspeitos, a revisão humana das respostas geradas e a implementação de barreiras para impedir autonomia excessiva dos sistemas em atividades sensíveis.
Para Ivan, a transparência também deve ser um dos pilares da incorporação da inteligência artificial ao Poder Judiciário.
"Advogados e partes precisam compreender em quais atividades a IA é utilizada, com qual finalidade, quais são seus limites e em que etapa ocorre a revisão humana. Transparência não significa expor códigos ou detalhes que aumentem a vulnerabilidade dos sistemas, mas garantir controle democrático, contraditório efetivo e possibilidade de correção de erros", conclui.