Preocupado com a crescente expansão da IA generativa no âmbito da atividade jurisdicional - especialmente diante da utilização cada vez mais frequente de modelos algorítmicos para elaboração de minutas, organização de fundamentos, análise documental e apoio à tomada de decisões - o CNJ editou a resolução CNJ 615, de 11/3/25, estabelecendo diretrizes para o desenvolvimento, utilização, auditoria, monitoramento e governança de soluções baseadas em inteligência artificial no poder judiciário brasileiro.
A resolução 615/25 parte de uma premissa honesta: a IA não é instrumento neutro. Quando inserida no ambiente judicial, pode afetar o devido processo legal, o contraditório, a ampla defesa, a fundamentação das decisões e a confiança pública na jurisdição. O CNJ reconhece, de forma expressa, que o uso dessas ferramentas deve observar transparência, auditabilidade, segurança da informação, explicabilidade, contestabilidade e supervisão humana. Mais do que isso, a norma admite que sistemas algorítmicos carregam riscos próprios: podem reproduzir vieses históricos, ocultar critérios decisórios, amplificar desigualdades e deslocar, de modo silencioso, a autoridade decisória do magistrado para estruturas automatizadas de probabilidade estatística (arts. 2º. 3º., 8º. 10, 17).
O núcleo mais relevante da resolução está nos arts. 9.º a 11, que introduzem no judiciário brasileiro uma lógica regulatória fundada na classificação de riscos.
O art. 9.º determina que os tribunais avaliem as soluções de inteligência artificial conforme seu grau de impacto sobre direitos fundamentais, complexidade do modelo, finalidades pretendidas e quantidade de dados sensíveis utilizados. A consequência prática é decisiva: impede-se que todos os sistemas sejam tratados de maneira homogênea.
a) Risco de violação a direitos fundamentais e ao devido processo legal
A resolução 615/25 parte de uma premissa estruturalmente relevante: a IA não constitui instrumento neutro. O próprio texto normativo reconhece que a utilização dessas ferramentas no âmbito jurisdicional pode impactar diretamente direitos fundamentais, exigindo compatibilidade permanente com o devido processo legal, o contraditório, a ampla defesa, a motivação das decisões judiciais e a segurança jurídica. A preocupação aparece expressamente no preâmbulo da resolução, ao mencionar os riscos de intensificação de parcialidades e vieses discriminatórios, bem como a necessidade de fiscalização, revisão e intervenção humana da magistratura. Essa diretriz é reforçada pelos arts. 2.º, 3.º e 5.º, que estabelecem como fundamentos do uso da IA o respeito aos direitos fundamentais, a centralidade da pessoa humana, a supervisão humana efetiva e a observância contínua da compatibilidade constitucional das soluções tecnológicas adotadas.
b) Risco de opacidade algorítmica e esvaziamento da fundamentação judicial
A resolução demonstra preocupação direta com a possibilidade de que sistemas algorítmicos passem a influenciar decisões sem transparência suficiente quanto aos critérios utilizados. Por isso, o art. 3.º consagra como princípios obrigatórios a transparência, a explicabilidade, a contestabilidade e a auditabilidade das soluções de IA. A lógica é evidente: não há legitimidade constitucional em uma decisão judicial cuja racionalidade não possa ser compreendida, revisada ou contestada. O problema se agrava diante de modelos generativos capazes de produzir textos juridicamente sofisticados, mas cuja estrutura lógica interna permanece opaca ao usuário. O risco identificado pelo CNJ é o de transformação da fundamentação judicial em mera reprodução automatizada de associações estatísticas produzidas por sistemas inacessíveis às partes, à advocacia e, em certos casos, ao próprio magistrado.
c) Risco de reprodução de vieses discriminatórios e amplificação de desigualdades
Outro eixo central da resolução é o reconhecimento de que sistemas algorítmicos podem reproduzir preconceitos históricos presentes nas bases de dados utilizadas para treinamento. O art. 8.º determina expressamente que os produtos gerados por IA deverão preservar a igualdade, a pluralidade e a não discriminação abusiva ou ilícita, impondo auditoria e monitoramento contínuos para prevenção de vieses discriminatórios. A preocupação é juridicamente relevante porque sistemas treinados a partir de dados historicamente desiguais podem transformar desigualdades sociais pretéritas em aparentes padrões objetivos de decisão. O risco não está apenas no erro tecnológico, mas na legitimação automatizada de discriminações estruturais sob aparência de neutralidade matemática.
d) Risco de perfilamento algorítmico e julgamento preditivo de pessoas
O art. 10 representa o núcleo ético mais severo da resolução ao vedar expressamente soluções destinadas a valorar traços de personalidade, características ou comportamentos de pessoas naturais para prever cometimento de crimes, reiteração delitiva ou plausibilidade de direitos. A norma também proíbe sistemas que ranqueiem indivíduos com base em comportamento, situação social ou atributos pessoais para avaliação de méritos judiciais ou credibilidade testemunhal. O CNJ impede, assim, que o judiciário brasileiro se converta em instância de perfilamento algorítmico de pessoas. A jurisdição constitucional deve julgar fatos e provas produzidos no processo, não probabilidades estatísticas de comportamento humano construídas por modelos matemáticos.
e) Risco de captura cognitiva do magistrado e substituição silenciosa da jurisdição humana
A resolução também identifica um risco menos visível, porém extremamente relevante: a dependência intelectual progressiva do julgador em relação às respostas produzidas pela IA. O art. 10 proíbe soluções que gerem dependência absoluta do usuário quanto aos resultados produzidos pela ferramenta, enquanto os arts. 32 e 34 asseguram que a autoridade final permanecerá sempre com o magistrado. O problema reconhecido pelo CNJ é o da chamada captura cognitiva do usuário pela máquina. Sistemas generativos produzem respostas linguisticamente convincentes e estruturalmente sofisticadas, o que pode induzir revisão superficial dos conteúdos produzidos pela IA e reduzir o efetivo enfrentamento dos argumentos das partes. O risco, portanto, não reside apenas na automação integral da decisão, mas na transferência silenciosa da racionalidade decisória para estruturas algorítmicas probabilísticas.
f) Risco de utilização de sistemas de alto impacto sem controle institucional adequado
Os arts. 9.º e 11 introduzem lógica regulatória baseada em classificação de riscos. A resolução reconhece que determinadas soluções possuem potencial significativamente mais elevado de interferência sobre direitos fundamentais e, por isso, exigem auditoria contínua, monitoramento permanente e supervisão humana reforçada. O anexo da resolução classifica como de alto risco ferramentas destinadas à valoração de provas, interpretação de fatos como crimes, formulação de juízos conclusivos sobre aplicação de normas jurídicas e quantificação de danos. O CNJ admite, portanto, que quanto mais próxima a inteligência artificial estiver do núcleo da atividade jurisdicional, maior será o perigo institucional decorrente de sua utilização sem mecanismos rigorosos de controle.
A questão não é saber se a IA deve ou não ser utilizada pelo Judiciário - essa etapa já foi superada pela realidade. A questão verdadeira é saber sob quais limites, com quais controles, em benefício de quem e com que grau de transparência. A eficiência judicial não pode ser comprada ao preço da opacidade decisória. A duração razoável do processo e a redução de acervos são objetivos legítimos, mas não autorizam a criação de uma jurisdição algorítmica sem rosto, sem explicação e sem responsabilidade.
A IA pode auxiliar o juiz a trabalhar melhor. Pode resumir documentos, organizar informações, identificar precedentes e reduzir tarefas repetitivas. Não lhe compete valorar a dignidade de uma pessoa, presumir sua periculosidade, definir a credibilidade de um testemunho, interpretar a dor humana em termos estatísticos ou transformar direitos fundamentais em probabilidades algorítmicas.
A decisão judicial não é simples operação lógica de processamento de dados. É exercício de poder constitucional, responsabilidade institucional e fundamentação democrática. Quando o julgamento deixa de resultar da consciência crítica, da sensibilidade constitucional e da responsabilidade argumentativa do magistrado para emergir de estruturas opacas de inferência estatística, o que se compromete não é apenas a transparência tecnológica do processo decisório. Compromete-se a própria essência democrática da jurisdição, porque a decisão judicial deixa de ser expressão racional do Direito aplicado ao caso concreto e passa a refletir probabilidades algorítmicas cuja lógica interna muitas vezes sequer pode ser plenamente compreendida, auditada ou contestada pelas partes.