Vazamento de prompt e dever de supervisão

Quando o Papa Leão XIV, em sua primeira carta encíclica, adverte para o dever urgente de permanecer profundamente humanos diante da IA, o que parece um apelo pastoral é, na verdade, uma proposição com tradução jurídica imediata. No processo judicial, permanecer humano significa, em termos técnico-normativos, exercer supervisão humana efetiva sobre o produto gerado por sistemas algorítmicos - exigência expressa, no Brasil, pelo art. 19, § 3º, II, da resolução 615/25 do CNJ.

O presente artigo não pretende criticar o uso de inteligência artificial pelo Poder Judiciário. Tal uso é hoje expressamente autorizado pelo CNJ, institucionalmente incentivado - a título de exemplos, o Sistema Galileu do TRT-2 e o Chat-JT do CSJT - e, bem empregado, traz ganhos reais de produtividade. O que se propõe é a sistematização de um problema novo, mas crescente: o vazamento de artefato de prompt em decisões e peças processuais e o consequente dever de supervisão humana que recai, indistintamente, sobre magistrados(as), partes e seus procuradores(as).

A resolução CNJ 615/25, em seu art. 4º, XVI, define prompt como "texto em linguagem natural utilizado na IA generativa para execução de uma tarefa específica". Denomina-se vazamento de artefato de prompt (em inglês, prompt artifact leakage) o fenômeno em que esse comando interno permanece visível no texto final publicado. O risco é catalogado internacionalmente pelo OWASP - Open Worldwide Application Security Project como vulnerabilidade autônoma - LLM07:2025 – System Prompt Leakage -, definida como a exposição indevida das instruções que orientam o comportamento do modelo.

Como advertem Ney Maranhão e Fabrício Lima¹, ao tratar das vulnerabilidades específicas dos modelos de linguagem aplicados ao Judiciário, "a supervisão humana deixa de ser mera formalidade para tornar-se barreira essencial contra a subversão da Justiça". Em sede processual, o vazamento opera como indício objetivo de quebra do dever de supervisão humana: o(a) leitor(a) passa a enxergar, no lugar da decisão judicial, o comando que pediu a decisão - algo que jamais sobreviveria a uma leitura atenta do(a) julgador(a).

Sobre esse dever processual de supervisão humana, a resolução CNJ 615/25 erige três pilares normativos inafastáveis. Primeiro, o art. 3º, VII, exige supervisão humana efetiva, periódica e adequada em todo o ciclo de vida da IA. Segundo, o art. 19, § 3º, II, veda "a utilização como instrumento autônomo de tomada de decisões judiciais sem a devida orientação, interpretação, verificação e revisão por parte do magistrado, que permanecerá integralmente responsável". Terceiro, o art. 33, § 1º, sublinha o caráter consultivo e não vinculante da proposta gerada pela ferramenta. Em síntese: a IA é instrumento, ao passo que a decisão, indelegável.

Esse quadro normativo ganhou reforço técnico com a publicação da manifestação técnica CNIAJ 1/26 (processo SEI 09953/26), de 27/5/26, produzida pelo Comitê Nacional de Inteligência Artificial do Judiciário sob relatoria do Departamento de Tecnologia da Informação e Comunicação do CNJ. O documento integra o Proseg-IA - Programa de Segurança Adversarial para Sistemas de Inteligência Artificial do Poder Judiciário e trata, especificamente, da mitigação de riscos de prompt injection em sistemas judiciais.

A manifestação técnica distingue dois grupos principais de risco: o vazamento de dados e credenciais - controlável por filtragem determinística de saída - e o sequestro ou manipulação de comportamento do modelo, hipótese em que uma peça processual contém instruções ocultas para que o sistema favoreça determinada tese, distorça resumos ou simule conclusões. O segundo grupo é, por sua natureza, de detecção muito mais difícil, pois a resposta final pode parecer formalmente imparcial e ainda assim ter sido contaminada por instrução adversarial. Ambos os riscos dialogam diretamente com o fenômeno do vazamento de artefato de prompt, ao qual a presente análise se dedica: enquanto o vazamento de prompt expõe externamente a instrução que orientou o modelo, a injeção de comandos ocultos pode contaminar internamente a lógica da resposta - sendo, pois, faces complementares de uma mesma vulnerabilidade estrutural dos sistemas de IA generativa em ambiente judicial.

O dever processual de supervisão humana não se restringe ao(à) magistrado(a). No plano processual civil, os arts. 5º, 6º e 77 do CPC impõem a todos os sujeitos do processo - partes, procuradores e juiz - deveres de boa-fé, cooperação e veracidade. A supervisão humana sobre o output da IA configura dever processual, na medida em que seu descumprimento atinge a dignidade da justiça e legitima sanções específicas.

O tema já não é especulativo. A Justiça do Trabalho tem produzido precedentes contundentes em casos reais de vazamento de artefatos de prompt. O caso paradigmático foi julgado pela 2ª turma do TRT da 8ª Região em fevereiro de 2026 (ROT 0001193-27.2025.5.08.0131, Rel. Des. Suzy Koury). A sentença de origem continha, literalmente, o seguinte vazamento: "Exclusivamente a partir daqui, IA, é com você: ao meu estilo... afaste as alegações iniciais e concluo que a reclamada cumpriu com exatidão os normativos ministeriais e legais, julgando improcedente o pedido de indenização por danos morais". O Tribunal, de ofício, declarou a nulidade da sentença por uso da IA "não como mero instrumento auxiliar, mas como mecanismo autônomo de construção da fundamentação", em frontal violação ao art. 19, § 3º, II, da resolução CNJ 615/25, e determinou comunicação à Corregedoria Regional.

Em sentido convergente, mas agora quanto ao dever das partes, a 4ª turma do TRT da 4ª Região (ROT 0020921-32.2024.5.04.0121, Rel. Des. Ana Luiza Heineck Kruse, maio de 2026) não conheceu de recurso ordinário que apresentava trechos genéricos, padronizados, com jurisprudência inexistente - inclusive com a expressão “XXXX” em lugar da numeração de processos -, registrando que a utilização de IA "não afasta o dever da parte e de seu procurador de conferir a veracidade, coerência e correspondência das informações lançadas na petição". Anteriormente, o Tribunal Pleno do TRT da 18ª Região (MSCiv 0000667-86.2025.5.18.0000, Rel. Juiz Conv. Celso Moredo Garcia, agosto de 2025) aplicou multa de 10% à impetrante e de 1% ao seu advogado por citação de jurisprudência fictícia gerada por IA, configurando má-fé processual nos termos do art. 80, V, do CPC, com ofício à OAB.

Fora da Justiça do Trabalho, a 21ª Câmara Cível do TJ/RS (AI 5246274-69.2025.8.21.7000, Rel. Des. Claudio Martinewski, novembro de 2025) anulou de ofício decisão judicial por ausência de fundamentação (art. 489, § 1º, IV e V, do CPC) e advertiu o advogado recorrente que utilizara IA generativa para localizar doutrina sem conferi-la pessoalmente. Soma-se a esses o caso do TRT-1, em que magistrado deixou visível, em acórdão, o prompt "segue minuta de fundamentação elaborada no padrão solicitado, em estilo Maurício".

O ordenamento jurídico brasileiro vem construindo uma rede normativa articulada. O CNJ, pela resolução 615/25, regula o uso de IA pelos magistrados e servidores. O CNMP, desde 2023, fixou como princípios a "participação humana no ciclo da IA e supervisão humana efetiva". O Conselho Federal da OAB, pela Recomendação nº 01/2024, estabelece dever específico de “revisar integralmente todas as saídas geradas pela IA antes de apresentá-las em processos judiciais” (item 3.7, I).

A manifestação técnica CNIAJ 1/2026 complementa esse arcabouço ao recomendar, no plano técnico, que a supervisão humana somente se torna efetiva quando apoiada por rastreabilidade, logs, explicitação das fontes utilizadas, indicação de trechos suspeitos e controles de saída documentados. Sem tais elementos, adverte o CNIAJ, há risco de que a supervisão humana se torne meramente formal, especialmente em ambientes de alto volume processual - uma advertência que ecoa a preocupação doutrinária com a “terceirização da cognição” identificada por Lenio Streck² e com o imperativo de explicabilidade sustentado por Dierle Nunes e Otávio Morato.

Há, portanto, perfeita simetria normativa entre as normas do CNJ, CNMP e OAB: o mesmo dever processual de supervisão humana atinge magistrados(as), membros(as) do Ministério Público e advogados(as). Quem ignora esse dever opera fora do ordenamento jurídico e expõe-se às sanções correspondentes, que vão da nulidade da decisão à multa por má-fé processual e à comunicação aos órgãos correicionais.

Como pontuam Dierle Nunes e Otávio Morato³, "por mais sofisticados que sejam, os modelos algorítmicos ainda estão longe de serem infalíveis". Quanto maior o auxílio tecnológico legitimamente empregado, maior o ônus de validação substantiva que recai sobre quem subscreve. A revisão deixa de ser etapa acessória para tornar-se o próprio ato processual em sentido estrito: é nela - e somente nela - que se materializa o convencimento jurídico exigido pelo art. 93, IX, da Constituição Federal.

Para além da segurança da informação e da segurança dos sistemas do Poder Judiciário, não há dúvidas de que as novas ferramentas não devem operarsem a devida fiscalização humana, mas, sobretudo, a dita operacionalização não poderá ocorrer sem respeitar os limites éticos.

O vazamento de artefato de prompt é, hoje, uma das mais visíveis manifestações de um problema mais amplo: a tentação de delegar à máquina o que é, por natureza, indelegável. A jurisprudência emergente, sobretudo da Justiça do Trabalho e da Justiça Estadual, demonstra que o sistema processual já dispõe de instrumentos para coibir esse desvio. A advertência do Papa Leão XIV de permanecer profundamente humanos encontra, no Direito Processual brasileiro, seu eco normativo: usar a IA é legítimo; subscrever sem supervisionar e sem ler, ou seja, subordinar integralmente a escolha humana ao resultado de um processo algorítmico, jamais.

____________

1 MARANHÃO, Ney; LIMA, Fabrício. O cavalo de Troia algorítmico: prompt injection como afronta à lealdade processual. Revista Magister de Direito do Trabalho, v. 22, n. 129, p. 35-45, nov./dez. 2025, p. 41.

2 STRECK, Lenio Luiz. O perigo da terceirização para a IA: socorro, já estão “clonando” juiz! Revista Consultor Jurídico (ConJur), 22 jan. 2026.

3 MORATO, Otávio; NUNES, Dierle. Inteligência Artificial: o desafio da explicabilidade. 2. ed. São Paulo: JusPodivm, 2026, p. 71.