Quando a eficiência começa a pensar por nós - e a decidir por todos

Muito se fala sobre aquilo que a inteligência artificial fará pelo advogado. Pouco se fala sobre aquilo que ela pode fazer com o advogado. E menos ainda sobre aquilo que, em escala, pode fazer com o próprio Direito.

Os ganhos são evidentes: mais produtividade, pesquisa em segundos, leitura de grandes volumes de documentos, redação de peças, organização de provas, comparação de precedentes e construção de argumentos. Tudo isso já está acontecendo.

Talvez justamente por funcionar tão bem seja tão difícil perceber o problema.

A inteligência artificial não chegou ao Direito pela força. Chegou pela conveniência.

E aqui a Odisseia oferece uma imagem precisa.

Ulisses sabia que o canto das sereias era irresistível. O perigo não estava em ser desagradável, mas em ser belo.

A IA também seduz porque funciona.

Ela economiza tempo, organiza ideias, encontra caminhos, resume, escreve, compara, sugere e entrega em minutos aquilo que antes exigia horas.

O primeiro risco está na formação.

O pensamento crítico não surge pronto. Ele se forma no esforço de pesquisar, comparar, errar, reformular, descartar hipóteses e construir argumentos.

Se a IA passa a resumir o livro, localizar a jurisprudência, estruturar a tese, redigir a peça e apontar a solução, o estudante pode chegar ao fim da formação tendo produzido muito e pensado pouco.

Ter acesso a uma boa resposta não significa saber avaliá-la.

E quanto melhor a IA se torna, menos visível pode se tornar a ignorância de quem a utiliza.

Uma resposta sofisticada pode esconder um raciocínio frágil.

A mediocridade intelectual também pode vir muito bem escrita.

O mesmo vale para o profissional formado.

Se ele deixa de pesquisar porque a máquina pesquisa, de estruturar porque a máquina estrutura e de formular porque a máquina formula, pode ganhar eficiência e perder capacidade.

Por isso, a conhecida ideia de que “o advogado que não usa IA será substituído pelo advogado que usa” talvez conte apenas metade da história.

A outra metade é mais incômoda: o advogado que terceiriza excessivamente seu raciocínio à IA pode se tornar justamente o profissional que ela consegue substituir com maior facilidade.

Quanto mais padronizado o raciocínio, mais automatizável ele se torna.

E é aqui que a recomendação de “usar com moderação” merece alguma desconfiança.

Hoje a ferramenta revisa um texto. Amanhã estrutura o argumento. Depois pesquisa o precedente. Em seguida seleciona os fatos relevantes. Mais adiante sugere a tese e a estratégia.

Nenhum passo, isoladamente, parece excessivo.

O problema está na soma.

Ulisses não decidiu ouvir as sereias com equilíbrio.

Mandou que o amarrassem ao mastro.

Conhecer o risco talvez não seja suficiente para resistir a ele, sobretudo quando o risco vem acompanhado de conforto, velocidade e vantagem competitiva.

Mas há um problema ainda maior.

Advogados usarão IA. Empresas usarão IA. Órgãos públicos usarão IA. Tribunais usarão IA.

Quando sistemas passarem a resumir processos, selecionar precedentes, organizar fundamentos e sugerir caminhos decisórios, a discussão deixará de ser apenas sobre produtividade ou formação profissional.

Passará a ser sobre poder.

Sistemas de inteligência artificial não apenas recuperam informação. Eles selecionam, hierarquizam, aproximam, descartam e apresentam determinadas respostas como mais plausíveis do que outras.

No Direito, isso importa.

Escolher quais precedentes destacar, quais argumentos priorizar e quais interpretações tratar como marginais já significa, em alguma medida, orientar o raciocínio jurídico.

E grande parte dessas ferramentas será desenvolvida por empresas privadas cujos critérios de funcionamento não são transparentes e cujos interesses econômicos, políticos ou estratégicos podem não coincidir com os de um Estado de Direito.

O risco, então, não é apenas o de vieses involuntários.

É também o de sistemas poderem ser calibrados para favorecer determinadas concepções jurídicas, políticas públicas, interesses econômicos ou visões de mundo.

Não seria necessário ordenar que alguém decidisse de determinada forma.

Bastaria influenciar, pouco a pouco, o repertório a partir do qual a decisão é construída.

É aí que a questão deixa de ser tecnológica e se torna constitucional.

Se os mesmos sistemas participam da pesquisa de advogados, da elaboração de pareceres, da atividade administrativa e do raciocínio judicial, pequenas inclinações podem ganhar escala e transformar-se em orientação institucional.

Talvez, então, política judiciária comece a ser formada não apenas por leis, precedentes, doutrina e instituições sujeitas a controle, mas também por critérios algorítmicos definidos fora delas.

Não seria preciso mudar a Constituição.

Talvez bastasse mudar o algoritmo.

Há, portanto, dois riscos que se conectam.

No plano individual, a IA pode formar profissionais mais dependentes e menos críticos.

No plano institucional, pode concentrar em poucos agentes privados a capacidade de influenciar a forma como o próprio sistema de justiça pensa.

O primeiro risco alcança o advogado.

O segundo alcança o Estado de Direito. Ambos, em conjunto, pode ter um efeito catastrófico.

Há, por fim, uma pequena ironia que seria desonesto esconder.

Este texto foi deliberadamente escrito com auxílio de inteligência artificial.

Ela ajudou a organizar ideias, eliminar repetições e melhorar a estrutura de um artigo que, justamente, desconfia da eficiência quando ela começa a ocupar o lugar do esforço intelectual.

E devo admitir: funcionou muito bem.

Talvez bem demais.

Seria fácil usá-la um pouco mais. Depois mais um pouco. E, em algum momento, talvez já não fosse simples dizer onde terminou a assistência e começou a terceirização do pensamento.

Foi justamente por isso que resolvi usá-la aqui.

Seria simples demais criticar o canto das sereias de longe.

Preferi ouvi-lo.

E ele canta muito bem.

O maior risco da inteligência artificial talvez não seja o dia em que ela passar a pensar como nós.

Talvez seja o dia em que já não saibamos muito bem até onde ainda estamos pensando sem ela - e em que sistemas que não elegemos, não controlamos e talvez nem compreendamos plenamente passem também a influenciar a maneira pela qual o Direito define suas prioridades, interpreta seus conflitos e exerce poder.

O canto das sereias só era perigoso porque era belo.