O uso da IA no Judiciário traz desafios que vão além da capacidade técnica dos sistemas, envolvendo a definição de quais decisões podem ser delegadas às máquinas e a responsabilidade por seus efeitos.
Para Fabrício da Mota Alves, sócio coordenador de Direito Digital, Privacidade e Proteção de Dados do Serur e membro da Comissão de Proteção de Dados da Corregedoria Nacional de Justiça, essa discussão precisa ganhar espaço à medida que a inteligência artificial assume tarefas cada vez mais complexas.
"O debate sobre inteligência artificial no Judiciário tem se concentrado quase exclusivamente no que a máquina é capaz de fazer. Antes disso, porém, é preciso perguntar o que ela deveria fazer. Há decisões que não podem ser delegadas à máquina, ainda que ela possa decidir melhor do que um ser humano. Isso porque a legitimidade de uma decisão não depende apenas de sua qualidade técnica, mas também de quem decide, das razões que apresenta e da responsabilidade que assume", avalia.
Para ele, a questão se torna atual neste momento de crescente delegação de atividades humanas à IA, mas está longe de ser nova. A reflexão de Alves tem como referência "Computer Power and Human Reason", livro do cientista da computação Joseph Weizenbaum, professor do MIT - Instituto de Tecnologia de Massachusetts e criador do programa ELIZA. Publicada em 1976, a obra completa 50 anos em 2026 e discute os limites da delegação de atividades humanas aos computadores.
De acordo com Fabrício, uma das distinções propostas por Weizenbaum continua sendo central: a diferença entre cálculo e julgamento. O cálculo pode ser programado, mas julgar exige ponderar valores e assumir as consequências de uma decisão.
O advogado aponta também duas razões para manter a participação humana em decisões apoiadas por IA. A primeira é a possibilidade de erro dos sistemas, uma limitação que pode diminuir com os avanços tecnológicos. A segunda diz respeito à legitimidade do julgamento.
"Um juiz cuja participação se justifica apenas porque a máquina ainda erra pode ser visto como um mero custo de transição: nessa lógica, o avanço tecnológico tende a torná-lo dispensável. O que justifica sua presença de forma duradoura é a legitimidade da decisão, que exige julgamento e alguém capaz de responder por ela. E isso nenhuma curva técnica remove", explica.
O especialista avalia ainda que a questão já faz parte da rotina dos tribunais brasileiros, que utilizam ferramentas de IA em atividades como triagem processual e elaboração de minutas. As regras do CNJ para o uso da tecnologia preveem avaliação de riscos e supervisão humana. Para Alves, porém, a presença de uma pessoa ao final de um fluxo automatizado não basta para assegurar que houve julgamento efetivo. É preciso que ela tenha condições de avaliar o resultado produzido pelo sistema, examinar os fundamentos da decisão e responder por eles.
Alves abordou o tema durante o "XXIX Congresso Internacional de Direito Constitucional", promovido pelo IDP - Instituto Brasileiro de Ensino, Desenvolvimento e Pesquisa, em Brasília.