Responsabilidade civil pelas alucinações da inteligência artificial

O avanço da inteligência artificial generativa¹ trouxe ao direito brasileiro um problema que as categorias clássicas da responsabilidade civil não resolvem de maneira satisfatória. Tornam-se cada vez mais frequentes os episódios em que sistemas de linguagem produzem precedentes judiciais inexistentes, atribuem declarações fictícias a autores reais, formulam diagnósticos equivocados ou apresentam informações falsas com aparência de absoluta veracidade. Esse fenômeno, conhecido como "alucinação algorítmica", transcende a mera discussão tecnológica e projeta uma questão eminentemente jurídica: quando a informação falsa decorre do funcionamento esperado da própria tecnologia, permanecem íntegros os pressupostos tradicionais da responsabilidade civil ou impõe-se uma releitura das categorias de defeito, causalidade e imputação do dever de indenizar?

A disciplina da responsabilidade por produtos defeituosos, prevista nos arts. 12 a 17 do CDC, repousa sobre lógica relativamente linear. Existe um produto colocado em circulação, o consumidor possui expectativa legítima de segurança quanto ao seu funcionamento, o produto apresenta desconformidade entre o comportamento esperado e o efetivamente verificado, e dessa desconformidade decorre o dano cuja reparação incumbe ao fornecedor. 

Essa arquitetura normativa revelou-se adequada para disciplinar acidentes envolvendo produtos cujo funcionamento pode ser objetivamente aferido segundo parâmetros técnicos conhecidos, categoria na qual se inserem os softwares convencionais.

Todavia, Gustavo Tepedino e Rodrigo da Guia Silva sustentam que a inteligência artificial exige uma releitura dos pressupostos tradicionais da responsabilidade civil brasileira, uma vez que a arquitetura estatística dos modelos preditivos torna muito menos evidente a identificação do momento, da origem e da própria natureza da desconformidade que conduz ao dano (TEPEDINO; SILVA, 2019). Isso ocorre porque os grandes modelos de linguagem (LLMs - Large Language Models) não foram concebidos para identificar a verdade objetiva dos fatos nem para verificar a correção jurídica das informações que produzem. Seu funcionamento repousa sobre modelos probabilísticos destinados a prever, entre bilhões de possibilidades, a sequência de palavras estatisticamente mais provável diante de determinado estímulo linguístico. O algoritmo, portanto, não conhece a realidade, não distingue fatos de ficções e tampouco desenvolve raciocínio jurídico em sentido próprio; limita-se a calcular probabilidades linguísticas e a produzir a resposta considerada matematicamente mais provável para o prompt que lhe foi apresentado. É justamente essa característica estrutural que torna insuficiente a aplicação automática das categorias tradicionais da responsabilidade civil, concebidas para produtos cujo defeito decorre de um desvio em relação ao funcionamento esperado, e não para sistemas cuja produção de informações falsas pode constituir consequência inerente ao próprio modo como foram projetados para operar.

É dessa característica estrutural que emerge a principal dificuldade jurídica. A alucinação algorítmica pode ocorrer sem que exista defeito tecnológico propriamente dito. O sistema não está corrompido, não apresenta falha de programação nem executa comandos diversos daqueles para os quais foi desenvolvido. Opera exatamente conforme sua arquitetura foi projetada e, ainda assim, produz informação falsa. Frank Pasquale já havia demonstrado, ao tratar da opacidade algorítmica como característica estrutural dos sistemas automatizados contemporâneos, que a ausência de transparência sobre o funcionamento interno dessas tecnologias compromete a possibilidade de responsabilização segundo os parâmetros tradicionais de imputação (PASQUALE, 2015). 

Em linha gerais, o defeito deixa de ser predominantemente tecnológico para assumir natureza essencialmente informacional. 

O episódio Mata v. Avianca, Inc. ilustra de forma concreta essa transição. No caso, dois advogados apresentaram perante a Justiça Federal do Distrito Sul de Nova York uma petição fundamentada em seis precedentes integralmente fabricados pelo ChatGPT, incluindo citações e ementas inexistentes atribuídas a tribunais reais. O juiz P. Kevin Castel, ao proferir a decisão de sanções em 22 de junho de 2023, reconheceu que não havia impropriedade inerente ao uso de ferramentas de inteligência artificial confiáveis, mas concluiu que os advogados agiram com má-fé subjetiva ao deixarem de verificar a existência dos precedentes antes de submetê-los ao juízo, impondo multa de cinco mil dólares aos profissionais e ao escritório envolvido (MATA V. AVIANCA, 2023). 

A decisão evidencia que o núcleo da responsabilização não recaiu sobre a ferramenta tecnológica, mas sobre a omissão do dever profissional de conferência, o que confirma a tese de que a alucinação algorítmica desloca parte relevante do risco jurídico para quem utiliza a tecnologia no exercício de atividade técnica. 

Esse cenário produz o surgimento de um dever jurídico de diligência qualificado. Filipe Medon, ao sistematizar os fundamentos da responsabilidade civil aplicável à inteligência artificial, sustenta que a distribuição do risco entre fornecedores e usuários profissionais deve considerar o grau de controle que cada parte exerce sobre a verificação do resultado produzido pelo sistema, o que inclui mecanismos como seguros de responsabilidade e cláusulas contratuais de alocação de risco (MEDON, 2022). Advogados, magistrados, médicos e demais profissionais que utilizam sistemas generativos no exercício de atividade técnica assumem dever positivo de verificação das informações produzidas pela máquina antes de incorporá-las à sua atuação. A utilização acrítica da inteligência artificial, desacompanhada de conferência mínima, pode configurar comportamento culposo, sobretudo quando a falsidade seria objetivamente constatável mediante consulta às fontes oficiais.

A doutrina nacional já antecipava parte dessa problemática antes mesmo da popularização dos atuais modelos de inteligência artificial generativa. Ao examinar os impactos da automação sobre a atividade jurídica, Fernanda Ivo Pires adverte que a utilização dessas ferramentas não pode conduzir à diluição da responsabilidade daquele que delas se vale no exercício profissional. Segundo a autora, "uma máquina que vive em constante aprendizado tem uma enorme chance de compreender uma realidade distorcida, resultando nos conhecidos vieses algorítmicos e a consequência deste fato não pode ser uma irresponsabilidade daqueles que dela se utilizaram" (PIRES, 2020, p. 232). A advertência revela-se ainda mais atual diante do fenômeno das alucinações algorítmicas, pois evidencia que a existência de riscos inerentes ao funcionamento da inteligência artificial não afasta - antes reforça - o dever jurídico de diligência daqueles que empregam essas ferramentas no exercício de atividades profissionais.

A alucinação algorítmica não desafia apenas a teoria do defeito do produto. Ela impõe a reformulação dos próprios deveres de diligência exigidos dos profissionais que utilizam sistemas de inteligência artificial. 

Na sociedade algorítmica, a pergunta juridicamente relevante deixa de ser apenas quem produziu a informação falsa para alcançar também quem, dispondo do dever técnico e jurídico de verificá-la, optou por incorporá-la à sua atuação profissional sem a cautela necessária. Nesse contexto, a negligência readquire papel central na responsabilidade civil, não mais compreendida como simples desatenção, mas como violação de um dever qualificado de verificação. À medida que a inteligência artificial amplia a capacidade de produzir conteúdos plausíveis, porém potencialmente falsos, cresce, na mesma proporção, o dever de conferência daqueles que dela se utilizam. 

A inteligência artificial não substitui a responsabilidade humana; apenas torna mais rigoroso o dever de exercê-la.

_____

MATA v. Avianca, Inc., 678 F.Supp.3d 443 (S.D.N.Y. 2023). Disponível em: https://en.wikipedia.org/wiki/Mata_v._Avianca,_Inc. Acesso em: 1 jul. 2026.

MEDON, Filipe. Inteligência artificial e responsabilidade civil. 2. ed. Salvador: JusPodivm, 2022.

MULHOLLAND, Caitlin. Responsabilidade civil e processos decisórios autônomos em sistemas de Inteligência Artificial (IA): autonomia, imputabilidade e responsabilidade. In: FRAZÃO, Ana; MULHOLLAND, Caitlin (coord.). Inteligência artificial e direito: ética, regulação e responsabilidade. São Paulo: Thomson Reuters Brasil, 2019. p. 331.

PASQUALE, Frank. The black box society: the secret algorithms that control money and information. Cambridge: Harvard University Press, 2015.

PIRES, Fernanda Ivo. Responsabilidade civil e o "robô advogado". In: MARTINS, Guilherme Magalhães; 

ROSENVALD, Nelson (org.). Responsabilidade civil e novas tecnologias. Indaiatuba: Editora Foco, 2020. p. 219-234. 

SILVA, Rodrigo da Guia. Inteligência artificial e elementos da responsabilidade civil. In: FRAZÃO, Ana; MULHOLLAND, Caitlin (coord.). Inteligência artificial e direito: ética, regulação e responsabilidade. São Paulo: Thomson Reuters Brasil, 2019. p. 85.

TEPEDINO, Gustavo; SILVA, Rodrigo da Guia. Desafios da inteligência artificial em matéria de responsabilidade civil. Revista Brasileira de Direito Civil, Rio de Janeiro, v. 21, p. 61-86, jul./set. 2019.

_____

1 A inteligência artificial generativa é uma modalidade de inteligência artificial desenvolvida para criar novos conteúdos, como textos, imagens, áudios, vídeos e códigos de programação, a partir dos padrões aprendidos durante seu treinamento. Diferencia-se das demais modalidades de inteligência artificial porque estas, em regra, são voltadas ao reconhecimento, classificação, previsão ou análise de dados já existentes, enquanto a inteligência artificial generativa produz conteúdo inédito em resposta às instruções fornecidas pelo usuário (prompts).