Nos últimos dois anos, escritórios de advocacia e departamentos jurídicos de empresas começaram a adotar ferramentas de inteligência artificial generativa com um entusiasmo que lembra muito os primeiros anos da internet. A promessa é sedutora: reduzir horas de revisão contratual para minutos, automatizar a elaboração de documentos, identificar cláusulas problemáticas em segundos. E, em partes, a promessa se cumpre. Mas existe um lado dessa tecnologia que raramente aparece nas apresentações comerciais dos fornecedores, e que pode transformar uma ferramenta de produtividade em uma fonte silenciosa de erros graves.
Este artigo não é um alarmismo contra a adoção de IA no direito. É o oposto: é um guia técnico honesto para que advogados e empresas possam usar essas ferramentas com consciência e critério. Porque o problema não é a tecnologia em si. O problema é usar uma tecnologia sem entender como ela falha.
O que é, afinal, um modelo de linguagem?
Para entender os riscos, é preciso primeiro entender, de forma simplificada, o que acontece dentro de um sistema como o ChatGPT, o Claude ou o Gemini quando você faz uma pergunta.
Esses sistemas são treinados em quantidades astronômicas de texto: livros, artigos, sites, decisões judiciais, contratos, fóruns de debate, redes sociais. Durante o treinamento, o modelo aprende padrões estatísticos de como palavras e conceitos se relacionam entre si. Ele não "sabe" o que é uma cláusula de não concorrência da mesma forma que um advogado sabe. Ele aprendeu que, em contextos como esse, certas palavras tendem a aparecer juntas, com certa estrutura, em certa ordem.
Quando você pede para o modelo redigir uma cláusula contratual, ele não vai até um banco de dados de contratos e seleciona o mais adequado. Ele gera texto novo, palavra por palavra, com base na probabilidade de qual seria o próximo token mais coerente dado o contexto da sua pergunta. É uma máquina de completar padrões linguísticos extraordinariamente sofisticada. E isso, por si só, já explica por que ela pode produzir resultados que parecem impecáveis e ainda assim estar completamente errados.
Alucinação: o nome técnico para quando a IA inventa fatos
O termo "alucinação" em IA não é metáfora poética. É um fenômeno bem documentado pela comunidade de pesquisa e descreve a tendência de modelos de linguagem gerarem afirmações factualmente incorretas com total confiança e fluência.
Ziwei Ji e seus coautores, em levantamento publicado na ACM Computing Surveys em 2023, descreveram alucinação como "o fenômeno pelo qual modelos de linguagem de grande escala geram texto factualmente incorreto ou sem base em fontes verificáveis, apresentado de forma coerente e convincente". A definição é precisa e assustadora quando você pensa no contexto jurídico.
O que isso significa na prática? Significa que se você pedir para uma IA citar a jurisprudência do STJ sobre determinada matéria, ela pode te entregar um acórdão com número de processo, data, relator e ementa. Tudo perfeito. Tudo inventado.
Isso já aconteceu. Em 2023, um caso nos Estados Unidos ganhou repercussão internacional quando um advogado apresentou em juízo uma peça elaborada com auxílio do ChatGPT que citava seis precedentes judiciais inexistentes. O juiz Kevin Castel, da Corte Distrital do Distrito Sul de Nova York, aplicou sanções ao escritório. O caso, amplamente coberto pelo New York Times e pelo The Guardian, virou símbolo do que pode dar errado quando se usa IA sem checagem humana.
No Brasil, o risco é o mesmo e talvez até amplificado. Os grandes modelos de linguagem foram treinados majoritariamente com dados em inglês. A jurisprudência brasileira, as leis federais, os regulamentos da ANPD, as portarias do Banco Central, as resoluções do CNJ. Tudo isso tem representação muito menor nesses modelos em comparação com o direito norte-americano ou europeu. Ao navegar em território jurídico brasileiro, a IA está operando com menos âncoras factuais e, portanto, com mais margem para preencher lacunas com invenção.
Por que o direito é terreno fértil para alucinações
Documentos jurídicos têm estrutura muito padronizada. Contratos, petições, pareceres, acordos. Todos seguem padrões reconhecíveis: "considerando que...", "as partes resolvem celebrar o presente instrumento...", "fica eleito o foro da comarca de...". O modelo aprendeu esses padrões muito bem.
O problema é que a fluência estrutural não implica correção factual. O modelo sabe como um contrato de prestação de serviços deve soar. Mas não necessariamente sabe qual é o prazo prescricional correto para aquela relação, qual é a responsabilidade aplicável, ou se a cláusula de limitação de responsabilidade que ele acabou de gerar é válida segundo o CDC.
Há ainda um agravante: modelos generativos são treinados para produzir respostas coerentes e completas. Eles têm, por design, uma tendência a preencher lacunas em vez de dizer "não sei". Um advogado humano, diante de uma dúvida, vai pesquisar, confirmar, consultar. O modelo vai completar o texto com o que estatisticamente parece mais plausível, sem nenhuma sinalização de incerteza.
A pesquisadora Emily Bender e seus coautores, no artigo "On the Dangers of Stochastic Parrots" (FAccT, 2021), popularizaram a expressão "papagaios estocásticos" para descrever essa limitação: modelos que reproduzem padrões com fluência sem necessariamente compreender o que estão dizendo. Fluência não é conhecimento.
O problema da desatualização: a IA não sabe que a lei mudou
Além da alucinação, existe um segundo risco técnico igualmente perigoso no dia a dia: a defasagem temporal. Todo modelo de linguagem tem uma data de corte de treinamento. Ele não tem conhecimento de eventos, leis, regulamentos ou decisões judiciais publicados depois dessa data.
No direito, essa janela pode ser fatal. Uma lei pode ser revogada. Uma súmula pode ser cancelada. Uma instrução normativa pode mudar completamente as obrigações de compliance de uma empresa. Uma decisão do STF pode alterar a interpretação de um dispositivo sedimentado há décadas.
Esse risco é particularmente sensível em áreas de alta regulação e mudança frequente: proteção de dados (LGPD e as resoluções da ANPD), mercado financeiro (regulação do Banco Central e da CVM), direito tributário e saúde (Anvisa). Um modelo com data de corte de dois anos atrás não é uma ferramenta segura para contratos que dependem da regulação atual.
O que pode dar errado na prática
Cinco cenários concretos de risco merecem atenção especial.
Cláusulas de limitação de responsabilidade inválidas. Um modelo pode gerar uma cláusula que limita a responsabilidade da empresa de forma absoluta em contratos com consumidores finais, ignorando o art. 51 do CDC, que proíbe cláusulas que atenuem a responsabilidade do fornecedor em relação a direitos básicos do consumidor.
Referências a legislação revogada. Um contrato de prestação de serviços de tecnologia gerado por IA pode referenciar a lei do software (lei 9.609/1998) de forma desatualizada, sem considerar entendimentos jurisprudenciais mais recentes sobre licenciamento e SaaS.
Prazo prescricional incorreto. O modelo pode citar um prazo prescricional errado para a pretensão de indenização, ou não distinguir corretamente entre a prescrição do CC e a do CDC, dependendo de quem são as partes.
Foro de eleição abusivo. Em contratos de consumo, a cláusula de eleição de foro pode ser considerada abusiva se não favorecer o consumidor. O modelo pode inseri-la sem qualquer sinalização de risco.
Base legal ausente no tratamento de dados. Em contratos que envolvem dados pessoais, a IA pode omitir a base legal do tratamento, que é exigência expressa do art. 7º da LGPD. Uma omissão desse tipo cria risco regulatório real com a ANPD.
O que advogados e empresas devem fazer
A resposta não é proibir o uso de IA em documentos jurídicos. É usá-la com protocolo.
Todo output de IA generativa em documentos jurídicos precisa de revisão humana qualificada. A IA pode ser ferramenta de primeiro rascunho, de triagem, de identificação de padrões. Ela não pode ser a última linha de verificação.
Toda citação de jurisprudência, lei, súmula ou precedente gerado por IA precisa ser verificado na fonte primária, sem exceção. Essa verificação leva minutos e pode evitar situações constrangedoras ou, no limite, responsabilidade profissional.
Ferramentas jurídicas baseadas em IA devem ser avaliadas pela data de corte do modelo que usam e pela existência de mecanismos de atualização com base em fontes jurídicas confiáveis.
Empresas que adotam IA em processos jurídicos internos precisam documentar esse uso: quando e como a IA foi utilizada e qual revisão humana foi feita. Em caso de disputa, esse registro pode ser a diferença entre demonstrar diligência ou negligência.
Por fim, é essencial desenvolver uma cultura de ceticismo saudável. Quando uma IA responde com segurança e fluência, isso não é evidência de que ela está certa. É justamente nesse momento que o profissional precisa questionar mais, não menos.
Uma reflexão final
Existe um paralelo interessante entre o momento atual e os primeiros anos do e-mail corporativo no direito. No começo, havia resistência. Depois, adoção acelerada e descuidada. Depois, um conjunto de boas práticas que foram se consolidando com o tempo, inclusive regulatórias.
Com IA generativa, o ciclo está se repetindo, só que em velocidade muito maior. Os riscos de um e-mail mal escrito são localizados. Os riscos de um contrato com cláusula inválida, com jurisprudência inexistente ou com base legal equivocada podem se materializar meses ou anos depois, em disputas que custam muito mais do que o tempo economizado na elaboração.
A inteligência artificial generativa é uma das ferramentas mais poderosas que o direito recebeu em décadas. Mas toda ferramenta poderosa exige que quem a usa entenda seus limites. Um bisturi nas mãos de um cirurgião é um instrumento de cura. Nas mãos de alguém que não sabe para que serve cada gesto, é outra coisa completamente.
O papel do profissional do direito não é resistir à IA nem se render a ela. É aprender a trabalhar com ela de olhos abertos.
_______
Referências
BENDER, Emily M. et al. On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (FAccT '21).
JI, Ziwei et al. Survey of Hallucination in Natural Language Generation. ACM Computing Surveys, v. 55, n. 12, 2023.
CASTEL, Kevin. Decisão judicial no caso Mata v. Avianca Inc., No. 22-cv-1461. Corte Distrital do Distrito Sul de Nova York, junho de 2023.
BRASIL. Lei 13.709/2018 (Lei Geral de Proteção de Dados). Disponível em: planalto.gov.br.
BRASIL. Lei 8.078/1990 (Código de Defesa do Consumidor). Disponível em: planalto.gov.br.