O debate sobre decisões judiciais influenciadas por sistemas de inteligência artificial expõe um ponto cego processual: a caixa-preta técnica impede o contraditório substancial sobre premissas, pesos e limites do modelo que permeiam a convicção do julgador. Quando a minuta automatizada orienta o raciocínio decisório, torna-se insuficiente atacar a redação final sem examinar o caminho algorítmico que a produziu. A preocupação não é ética genérica em IA, mas a integridade do processo: Assegurar que a motivação seja controlável, que haja direito a explicações úteis e que a revisão humana aconteça de modo real, e não como chancela formal de saídas automatizadas.
O eixo normativo é conhecido e doméstico. O dever de motivação do art. 93, IX, da Constituição não se cumpre com conclusões, exige justificativas que permitam escrutínio racional. Em decisões permeadas por IA, isso supõe explicitar premissas de fato e de método e o peso efetivamente conferido às recomendações do sistema. A resolução CNJ 615/25 densifica esse comando com princípios vinculantes de transparência, explicabilidade, contestabilidade, auditabilidade, devido processo e supervisão humana efetiva, vedando soluções que dispensem ou impeçam a revisão humana e preservando a autoridade final do magistrado com acesso às bases e à lógica do modelo. Sigilos e propriedade intelectual calibram a execução, mas não eliminam o dever, que se cumpre por documentação e registros auditáveis.
O mesmo ato administrativo impõe documentação de ciclo de vida, logs rastreáveis, avaliações de impacto algorítmico, relatórios anuais e prestação de contas com mecanismos de auditoria, criando um lastro objetivo para o contraditório técnico. Já a LGPD assegura revisão apenas para decisões unicamente automatizadas e admite auditoria pela autoridade quando houver invocação de segredo comercial ou industrial, sem instituir obrigação geral de revisão humana. Daí a insuficiência do caminho exclusivo pela proteção de dados e a necessidade de um canal processual próprio, ancorado no dever constitucional de motivar e nas obrigações administrativas do CNJ, para alcançar decisões assistidas com opacidade técnica.
A tese é assertiva: é preciso instituir um incidente de desconformidade algorítmica, de rito concentrado, que desloque o ônus informacional para o Estado-juiz quanto ao papel e às limitações do sistema, assegure acesso proporcional à documentação técnica e às trilhas de auditoria e imponha revisão humana substantiva com motivação rastreável. O objetivo é superar a homologação formal de minutas automatizadas e tornar efetivo o contraditório sobre o componente técnico que estruturou a decisão.
Os meios impugnativos tradicionais do CPC/15 partem da premissa de que a parte conhece as razões determinantes do decisum. Quando a decisão se apoia em saídas opacas, a causa de pedir recursal não se forma adequadamente: desconhece-se o modelo, a base de dados, a lógica aplicada, as métricas de desempenho e a importância de cada fator. Embargos de declaração não alcançam o vício informacional anterior e externo ao texto; apelação e agravo esbarram na falta de inteligibilidade mínima para articular erro, viés ou extrapolação de escopo; a cláusula de fundamentação analítica do art. 489, §1º, pode ser esvaziada por uma motivação formal que maquie ausência de revisão humana; a rescisória é tardia e inadequada a um vício que só aflora com acesso técnico raramente disponível no prazo. Sem logs, documentação e parametrizações, o contraditório técnico torna-se logicamente impossível.
A própria detectabilidade do uso de IA é frágil. A resolução CNJ 615/25 admite que a menção no corpo da decisão seja facultativa, remetendo o registro do uso a sistemas internos. Isso posterga o gatilho informacional para as partes e amplia o risco de homologação performativa de minutas, sobretudo quando a supervisão judicial limita-se à conferência linguística. Nessa ambiência, emergem cenários típicos de desconformidade: ausência de registro do uso, falta de documentação auditável mínima e motivação que não evidencia revisão humana substantiva nem o peso atribuído ao output automatizado.
O incidente proposto nasce de gatilhos documentais já positivados: indícios de uso de IA em decisão com carga cognitiva, existência de registros e trilhas de auditoria, documentação do ciclo de vida, avaliações de impacto e relatórios. O rito é concentrado e se estrutura em três movimentos: preservação imediata de evidências para evitar perecimento probatório; deslocamento do ônus informacional ao Estado-juiz, em razão de sua maior aptidão e dos deveres administrativos de documentação e prestação de contas; e acesso proporcional aos artefatos por peritos e legitimados, com ordens de proteção para resguardar sigilo e propriedade intelectual. Tudo isso opera sob normas já vigentes: poder geral de cautela, produção antecipada de prova, iniciativa instrutória do juízo, distribuição dinâmica do ônus da prova e perícia. Se houver recusa sob alegação de segredo, aciona-se a auditoria prevista na LGPD, com compartilhamento controlado e parecer técnico quanto à suficiência informacional.
O conteúdo de explicação exigível tem um núcleo mínimo: informações úteis sobre a lógica aplicada, a importância de fatores determinantes e as consequências consideradas na decisão. Esse padrão, afirmado pela jurisprudência europeia no caso SCHUFA e reforçado pelo AI Act para sistemas de alto risco, ingressa como critério persuasivo de suficiência, sem importação automática de comandos externos. A operacionalização se faz por documentação auditável do método e versões, qualidade e representatividade dos dados, métricas de desempenho e de vieses, políticas de atualização e trilhas de execução. Abertura irrestrita de código-fonte não é requisito; a governança por relatórios, parametrizações e amostras de dados, sob perícia e confidencialidade, é proporcional ao fim de tornar a decisão contestável e auditável. Em cenários de lacunas (logs incompletos, datasets retidos, privacy by default) aplicam-se medidas compensatórias: preservação imediata do que houver, amostras representativas, reprocessamento supervisionado com logging reforçado e perícia restrita; só a exaustão dessas vias, não a mera invocação de segredo, autoriza reconhecer a instrução prejudicada.
A principal objeção aponta que a automação no Judiciário é majoritariamente assistiva e que a menção ao uso de IA é facultativa, além de inexisitir dever legal geral de revisão humana, o que tornaria o incidente cego e potencialmente banalizado.
A resposta está na calibragem de cabimento e prova por indícios objetivos: logs de uso vinculados ao processo com identificação de modelo e versão, documentação mínima exigida pela resolução 615/25 e trilhas de revisão bastam para aferir a influência cognitiva e orientar a instrução concentrada, com baixíssimo impacto orçamentário. Critérios de triagem evitam abuso: se os registros demonstrarem influência periférica e houver motivação fático-jurídica autossuficiente, o incidente é inadmissível; se os indícios apontarem opacidade relevante, processa-se com distribuição dinâmica do ônus informacional.
Outra objeção mira segredos industriais, sigilos e limitações de proteção de dados. Aqui, o contraditório técnico se viabiliza por perícia restrita e ordens de proteção, com delimitação de escopo, amostras e confidencialidade sob sanções. Persistindo a restrição, a via de auditoria pela autoridade competente, prevista na LGPD, supre a assimetria informacional sem expor ativos sensíveis.
A própria resolução CNJ 615/25 fornece a infraestrutura: governança documental, registros e prestação de contas criam trilhas de auditoria; mecanismos de transparência técnica voltados a especialistas ampliam a auditabilidade independente. Em cenários extremos de indetectabilidade por desenho, resta agenda institucional de reforço a obrigações de registro, retenção e rastreabilidade mínimas.
As consequências práticas são imediatas. Tribunais devem padronizar rotinas de preservação de logs, documentação técnica e avaliações de impacto, com campos orientados a casos para permitir explicações úteis. A advocacia ganha um canal para requerer acesso proporcional, perícia assistida e ordens de proteção, deslocando o foco do “código-fonte” para artefatos de governança que tornam a decisão contestável. A magistratura passa a dispor de um roteiro de revisão humana substantiva e motivação rastreável, com respostas escalonadas: Esclarecimento, complementação documental, perícia focal e, só em último degrau e diante de prejuízo concreto ao contraditório, invalidação ou refazimento do ato.
Isso preserva a duração razoável do processo e evita a paralisação por tecnicismos inócuos.
Sem um incidente garantista, o risco é naturalizar a homologação performativa de minutas automatizadas, deslocando a racionalidade do processo para espaços opacos e inverificáveis. O desenho proposto recompõe o equilíbrio: integra o dever constitucional de motivar com a governança algorítmica exigida pelo CNJ e adota, de forma persuasiva, parâmetros europeus sobre intervenção humana e “informações úteis”. O resultado não é tornar o processo refém da engenharia, mas impedir que a engenharia se imponha sem ser vista, devolvendo substância ao contraditório e efetividade à revisão humana na era da decisão assistida.