É inegável que a incorporação da inteligência artificial ao Poder Judiciário representa uma das transformações mais relevantes da jurisdição contemporânea. Relatórios do CNJ demonstram que o Judiciário brasileiro tem adotado, de modo crescente, ferramentas de inteligência artificial voltadas à racionalização do trabalho judicial e ao enfrentamento do acúmulo processual.1
Esse fenômeno, em si, não deve ser compreendido como incompatível com a Constituição, pois a modernização tecnológica pode contribuir para a ampliação da capacidade institucional do sistema de justiça, principalmente no que tange à redução do número de processos a partir de maior celeridade.
O problema constitucional surge, contudo, quando a inteligência artificial deixa de atuar como instrumento auxiliar e passa a ocupar, direta ou indiretamente, o espaço próprio da atividade decisória, ou melhor, da atividade humana.
Não se trata de defender um Judiciário avesso à inovação ou de sustentar que todo uso de inteligência artificial seria ofensivo aos direitos fundamentais. Parte-se de uma premissa mais específica: a inteligência artificial pode auxiliar a jurisdição, mas não pode substituir integralmente o núcleo humano do ato de julgar.
Há diferença relevante entre o emprego de algoritmos para organizar informações, localizar julgados, agrupar processos semelhantes e a utilização de sistemas automatizados para definir o conteúdo da decisão judicial, valorar provas, interpretar normas, ponderar princípios e estabelecer o comando final que afetará a esfera jurídica dos cidadãos.
A primeira hipótese diz respeito ao uso instrumental da tecnologia; a segunda envolve a delegação do poder jurisdicional a sistemas não humanos. É nessa segunda hipótese que se localiza o ponto de tensão entre a automação decisória, direitos fundamentais e democracia.
Cláudia Toledo, ao analisar o uso da inteligência artificial na tomada de decisão judicial, demonstra que a incorporação de ferramentas automatizadas ao Judiciário precisa ser examinada à luz das garantias processuais e dos limites próprios da jurisdição constitucional.2
Araújo Rodrigues alerta para o perigo da ocorrência de discriminação algorítmica, tendo em vista que determinadas bases de dados reforçam padrões discriminatórios e injustiças sociais preexistentes.3 Igualmente, os estudos de Eduardo Cambi e demais autores sobre inteligência artificial, discriminação algorítmica e direitos fundamentais evidenciam que sistemas automatizados não são neutros pelo simples fato de operarem por meio de cálculos, modelos estatísticos ou aprendizado de máquina.4
Ao contrário, esses sistemas são produzidos por pessoas, alimentados por bases de dados historicamente constituídas e orientados por escolhas técnicas que podem reproduzir desigualdades, vieses e distorções., de modo que a inteligência artificial não seria nem inteligente, porque inteligência é uma propriedade emergente dos organismos, e nem artificial.
Portanto, a promessa de eficiência tecnológica não elimina a necessidade de controle jurídico, transparência e responsabilidade institucional. A partir dessas indagações, a fundamentação teórica do direito à decisão humana exige compreender que a decisão judicial não é simples operação mecânica de subsunção. Julgar não corresponde apenas a localizar uma regra abstrata e aplicá-la automaticamente a um conjunto de fatos previamente estabilizados.
A jurisdição envolve interpretação, argumentação, valoração probatória, compreensão das particularidades do caso concreto e justificação pública das razões adotadas. A atividade jurisdicional não se esgota no resultado, pois sua legitimidade depende do caminho racional, controlável e institucionalmente responsável que conduz à conclusão.
Sistemas de inteligência artificial operam a partir de padrões, correlações e probabilidades. Ainda que possam alcançar resultados úteis em atividades de classificação ou previsão, eles não exercem responsabilidade política, ética ou institucional.
A máquina não responde perante a sociedade, não presta contas nos termos próprios da função pública, não possui investidura constitucional, não participa da cultura jurídica como sujeito responsável e não pode ser chamada a justificar, em sentido propriamente normativo, a razão de sua decisão.
A inteligência artificial pode produzir texto, simular fundamentações e indicar padrões decisórios; contudo, a produção de linguagem juridicamente plausível não equivale, por si só, à motivação constitucionalmente exigida de uma decisão judicial. A diferença entre “gerar uma justificativa” e “fundamentar uma decisão” é decisiva.
A Constituição Federal, ao exigir a fundamentação das decisões judiciais, especialmente no art. 93, IX, não impõe uma formalidade vazia. A motivação é condição de legitimidade do poder jurisdicional. Ela permite que as partes compreendam as razões do julgamento, que os tribunais revisem a decisão, que a sociedade controle o exercício da jurisdição e que o próprio juiz se vincule racionalmente aos fundamentos que apresenta.
A fundamentação não é mera ornamentação textual; é mecanismo democrático de controle do poder. Quando uma decisão é produzida por sistema automatizado opaco, ou quando o juiz apenas chancela uma conclusão sugerida por inteligência artificial sem controle crítico real, corre-se o risco de transformar a fundamentação em aparência argumentativa, isto é, em texto formalmente organizado, mas materialmente desconectado de uma deliberação humana responsável, e pior, descolado das particularidades fáticas e dos elementos subjetivos.
Esse risco tem relação direta com a democracia. Em um Estado Democrático de Direito, o poder não pode ser exercido de modo invisível, irresponsável ou imune à contestação. A jurisdição é uma forma de exercício do poder estatal e, por isso, deve estar submetida a parâmetros de publicidade, motivação, controle, responsabilidade e participação processual.
Por essa razão, sua legitimidade não decorre apenas da eficiência do procedimento, mas da possibilidade de controle racional e democrático sobre o modo como o Estado decide. A automatização completa de decisões judiciais ameaça essa estrutura porque desloca o centro real da decisão para sistemas cuja lógica pode ser inacessível às partes, incompreensível aos operadores do direito e até mesmo parcialmente desconhecida pelas próprias instituições que os utilizam.
Danielle Keats Citron e Frank Pasquale, ao tratarem da sociedade pontuada e do devido processo diante de previsões automatizadas, oferecem importante contribuição para essa crítica, demonstrando que decisões baseadas em sistemas automatizados podem produzir efeitos jurídicos relevantes sem que os indivíduos compreendam os critérios utilizados contra eles.5
Essa preocupação é especialmente grave no âmbito judicial, pois o processo é justamente o espaço institucional destinado a permitir que as partes conheçam, contestem e influenciem os fundamentos da decisão. Se o resultado decisório é condicionado por uma lógica algorítmica não transparente, o contraditório perde densidade, pois a participação processual deixa de incidir sobre o verdadeiro centro de formação da decisão.
A contribuição de Margot Kaminski sobre o direito à explicação também se mostra relevante. A autora discute a necessidade de explicabilidade em decisões automatizadas, destacando que sistemas que produzem efeitos sobre indivíduos devem ser compreensíveis e contestáveis.6
No processo judicial, tal exigência assume intensidade ainda maior. A decisão judicial não pode ser uma resposta indecifrável emanada de uma autoridade tecnológica. Ela deve ser explicada em linguagem acessível, juridicamente estruturada e submetida ao debate público próprio do processo. A explicabilidade, nesse sentido, não é apenas uma exigência técnica da inteligência artificial, mas uma condição constitucional da jurisdição. Quando o Estado decide por meio de uma caixa-preta algorítmica, a opacidade deixa de ser simples problema tecnológico e passa a representar déficit democrático.
Amanda Antonelo, ao desenvolver a ideia de direito fundamental à decisão humana, oferece uma base teórica especialmente adequada para essa construção. A autora sustenta que a decisão humana pode ser compreendida como exigência ligada à proteção da pessoa diante de sistemas automatizados de decisão.7 Essa perspectiva permite afirmar que o direito à decisão humana não precisa estar expressamente formulado em um único dispositivo constitucional para ser reconhecido.
Aziz Huq contribui para a reflexão ao investigar se o direito pode reconhecer uma pretensão à decisão humana diante do crescimento de decisões estatais automatizadas.8 Sua análise permite perceber que o problema não se limita ao Poder Judiciário brasileiro, mas integra um debate mais amplo sobre a legitimidade das decisões públicas em sociedades tecnológicas.
A questão fundamental é saber se determinadas decisões, por afetarem intensamente direitos individuais e por envolverem juízos normativos complexos, exigem a presença de um agente humano responsável. No campo jurisdicional, essa exigência se torna ainda mais forte, pois o juiz não apenas administra políticas públicas ou aplica critérios burocráticos; ele exerce função constitucional de dizer o direito em situações de conflito, com força coercitiva e efeitos sobre a vida concreta das pessoas.
Por fim, a democracia exige que o exercício do poder seja justificável perante os cidadãos. Essa exigência vale de forma intensa para o Poder Judiciário, justamente porque seus membros não são escolhidos diretamente pelo voto popular. A legitimidade democrática da jurisdição decorre de sua submissão à Constituição, de sua independência, de sua imparcialidade, de sua motivação pública e da possibilidade de controle recursal e social de suas decisões.
Quando o ato decisório se torna automatizado, opaco ou tecnicamente inacessível, essa legitimidade é enfraquecida. O cidadão possui, ao menos implicitamente, um direito fundamental à decisão jurisdicional humana, entendido como o direito de que sua causa seja efetivamente apreciada por um julgador humano, responsável pela análise dos fatos, valoração das provas, fundamentação jurídica e comando decisório. A inteligência artificial pode colaborar com a jurisdição, mas não ocupar o lugar do juiz natural.
O Dilema de Talos sobre a consciência e a humanidade em inteligências artificiais deve ser (re)visto. Dessa forma, a “reserva de humanidade” da jurisdição surge como limite constitucional ao avanço tecnológico no processo judicial, impedindo que a busca por eficiência comprometa a dignidade, a responsabilidade e a legitimidade democrática da decisão judicial.
_____
1. CONSELHO NACIONAL DE JUSTIÇA. Pesquisa Inteligência Artificial no Judiciário 2024.
2. TOLEDO, Cláudia. O uso de inteligência artificial na tomada de decisão judicial.
3. DE ARAUJO RODRIGUES, Clara Skarlleth Lopes. INTELIGÊNCIA ARTIFICIAL E DIREITOS FUNDAMENTAIS: PROGRESSO OU RETROCESSO?. Revista Interagir, n. 127, p. 35-37, 2024.
4. CAMBI, Eduardo et al. Inteligência artificial no Poder Judiciário, discriminação algorítmica e direitos fundamentais.
5. CITRON, Danielle Keats; PASQUALE, Frank. The Scored Society: Due Process for Automated Predictions.
6. KAMINSKI, Margot. The Right to Explanation, Explained.
7. ANTONELO, Amanda. O direito fundamental à decisão humana.
8. HUQ, Aziz Z. A Right to a Human Decision.