Há poucos meses, um magistrado brasileiro se deparou com uma situação que, até pouco tempo atrás, pareceria improvável. A petição apresentada possuía linguagem técnica impecável, estrutura sofisticada e referências jurisprudenciais aparentemente consistentes. O problema surgiu quando o juízo constatou que parte dos precedentes citados jamais existiu. Não havia processo, relator ou decisão correspondente nos bancos oficiais do tribunal. O texto havia sido produzido com auxílio de inteligência artificial generativa.
O episódio, longe de ser isolado, tornou-se símbolo de uma transformação silenciosa e profunda que atravessa o sistema jurídico contemporâneo. A advocacia brasileira, assim como o Poder Judiciário, ingressou definitivamente na era da automação cognitiva. Ferramentas de inteligência artificial passaram a integrar o cotidiano forense com velocidade muito superior à capacidade institucional de regulamentação, fiscalização e adaptação ética. O fenômeno revela uma contradição inevitável: ao mesmo tempo em que a tecnologia amplia eficiência e democratiza o acesso à informação, também introduz riscos inéditos à segurança jurídica, à confiabilidade processual e à própria credibilidade do discurso jurídico.
A questão central não reside na utilização da inteligência artificial em si. O verdadeiro desafio jurídico consiste em definir os limites da responsabilidade humana diante de erros produzidos por sistemas algorítmicos que ainda operam com margens relevantes de imprevisibilidade. Mais especificamente, discute-se se falhas decorrentes das chamadas "alucinações" de IA podem ser automaticamente tratadas como fraude dolosa ou se demandam interpretação mais compatível com os princípios constitucionais da proporcionalidade, da razoabilidade, da boa-fé objetiva e do devido processo legal.
Inteligência artificial e a reconfiguração do trabalho jurídico
O avanço da inteligência artificial no universo jurídico decorre de fatores estruturais incontornáveis. O Judiciário brasileiro convive há décadas com sobrecarga processual, acúmulo de demandas repetitivas e crescente exigência institucional de produtividade. Nesse cenário, tecnologias capazes de acelerar pesquisas, organizar dados e estruturar documentos tornaram-se instrumentos extremamente atrativos para advogados, magistrados e órgãos públicos.
A transformação é perceptível em todas as esferas da atividade jurídica. Escritórios utilizam sistemas generativos para elaboração inicial de petições, revisão contratual, organização de teses e síntese jurisprudencial. Tribunais passaram a empregar mecanismos automatizados para triagem processual, classificação de demandas e gerenciamento de precedentes. A inteligência artificial deixou de representar mera inovação periférica para assumir posição central na dinâmica contemporânea da prestação jurisdicional.
Sob perspectiva constitucional, essa evolução tecnológica encontra respaldo no princípio da duração razoável do processo, previsto no art. 5º, inciso LXXVIII, da CF/88. Também dialoga diretamente com a ampliação do acesso à justiça, especialmente em um país marcado por profunda desigualdade estrutural no acesso à assistência jurídica qualificada.
Todavia, eficiência institucional não pode ser confundida com substituição integral da atividade intelectual humana. O Direito continua sendo fenômeno essencialmente interpretativo, ético e argumentativo. Nenhum sistema algorítmico possui capacidade autônoma de compreender valores constitucionais, ponderar direitos fundamentais ou interpretar contextos humanos complexos com sensibilidade jurídica plena.
As "alucinações" de IA e a fragilidade da confiança processual
As chamadas alucinações representam uma das manifestações mais problemáticas da inteligência artificial generativa. Diferentemente dos mecanismos tradicionais de busca, os modelos de linguagem não operam exclusivamente mediante recuperação de dados verificados. Seu funcionamento baseia-se em probabilidades estatísticas de construção textual.
Em termos práticos, isso significa que a IA pode produzir conteúdos formalmente coerentes, linguisticamente sofisticados e estruturalmente convincentes, embora materialmente falsos. O sistema cria referências inexistentes com aparência legítima, simulando decisões judiciais, citações doutrinárias e até dispositivos legais fictícios.
O problema ganhou repercussão internacional após o conhecido caso norte-americano Mata v. Avianca Inc., julgado em 2023 nos Estados Unidos. Na ocasião, advogados apresentaram petição contendo precedentes inteiramente fabricados pelo ChatGPT. O tribunal federal norte-americano aplicou sanções aos profissionais envolvidos e enfatizou a obrigação ética de verificação humana das informações produzidas por inteligência artificial.
O episódio tornou-se paradigma global da crise contemporânea envolvendo automação jurídica e responsabilidade profissional.
No Brasil, situações semelhantes passaram a surgir em diferentes tribunais. Casos envolvendo recursos fundamentados em precedentes inexistentes, habeas corpus com jurisprudência fictícia e petições baseadas em súmulas inventadas provocaram reações institucionais severas, incluindo multas por litigância de má-fé e comunicações disciplinares à OAB.
Embora a preocupação institucional seja legítima, o tratamento jurídico dessas situações exige cautela. O risco mais preocupante talvez não seja apenas o erro tecnológico em si, mas a tendência de presumir intenção fraudulenta em hipóteses que frequentemente revelam apenas negligência, excesso de confiança na ferramenta ou deficiência de capacitação técnica.
Boa-fé processual e distinção entre culpa e dolo
O ordenamento jurídico brasileiro não admite responsabilização automática desvinculada da análise concreta do elemento subjetivo da conduta. Essa premissa torna-se especialmente relevante no debate sobre inteligência artificial aplicada ao Direito.
O art. 5º do CPC estabelece que todos os sujeitos do processo devem comportar-se conforme a boa-fé. Entretanto, a violação da boa-fé processual exige análise contextual da intenção, do comportamento e da finalidade da conduta praticada.
Fraude processual pressupõe consciência da falsidade e propósito deliberado de induzir o juízo ao erro. Culpa, por outro lado, decorre de negligência, imprudência ou imperícia. A distinção não é meramente acadêmica. Trata-se de separação fundamental para preservação das bases dogmáticas da responsabilidade jurídica.
A simples utilização de ferramenta tecnológica que produziu informação incorreta não autoriza, por si só, conclusão automática de dolo processual. Em inúmeros casos, verifica-se ausência de intenção fraudulenta, existindo apenas falha de revisão humana diante de tecnologia ainda marcada por limitações reconhecidas internacionalmente.
Doutrinariamente, a questão exige interpretação compatível com a boa-fé objetiva e com o princípio constitucional da proporcionalidade. A responsabilização deve considerar:
- Grau de diligência do profissional;
- Existência de revisão prévia;
- Contexto tecnológico;
- Eventual reincidência;
- Extensão concreta do dano;
- Presença ou ausência de intenção deliberada.
A equiparação automática entre erro culposo e fraude dolosa compromete a racionalidade do próprio sistema sancionatório.
A experiência internacional e os limites da automação jurídica
O debate sobre responsabilidade por alucinações de IA ultrapassou fronteiras nacionais e passou a integrar discussões regulatórias em diversas democracias contemporâneas.
Nos Estados Unidos, cortes federais passaram a exigir declaração expressa de revisão humana em documentos elaborados com auxílio de inteligência artificial. Alguns tribunais determinaram que advogados certifiquem pessoalmente a autenticidade das referências jurisprudenciais apresentadas em juízo.
Na União Europeia, o AI Act consolidou abordagem regulatória baseada em gestão de risco e supervisão humana obrigatória. O modelo europeu parte da premissa de que sistemas de IA utilizados em atividades sensíveis, inclusive jurídicas, exigem controle humano permanente, transparência algorítmica e mecanismos robustos de auditoria.
O Reino Unido adotou postura semelhante ao recomendar que magistrados e advogados utilizem inteligência artificial apenas como ferramenta auxiliar, jamais como substituta da análise jurídica profissional. O Judiciário britânico enfatizou que a responsabilidade ética continua integralmente atribuída ao operador humano.
No Canadá, debates acadêmicos concentram-se na preservação da confiança pública nas instituições judiciais diante da expansão de sistemas automatizados. A preocupação central não é impedir inovação tecnológica, mas evitar erosão da legitimidade decisória do Poder Judiciário.
A China, por sua vez, segue caminho distinto, ampliando significativamente o uso de inteligência artificial em tribunais digitais e mecanismos automatizados de resolução de conflitos. Ainda assim, mesmo em modelo institucional mais orientado à automação, permanece a exigência formal de supervisão humana sobre decisões sensíveis.
A análise comparada revela convergência relevante: nenhum sistema jurídico democrático sério admite substituição integral da responsabilidade humana pela atuação algorítmica. A tecnologia é vista como instrumento de apoio, não como sujeito autônomo de decisão jurídica.
Responsabilidade administrativa e a necessidade de moderação institucional
No Brasil, a recomendação 001/2024 do Conselho Federal da OAB e a resolução 615/25 do CNJ representam importantes marcos normativos sobre o uso ético da inteligência artificial no meio jurídico.
Ambas reconhecem dois aspectos essenciais:
- A inevitabilidade da transformação tecnológica;
- A necessidade de supervisão humana obrigatória.
Contudo, o debate mais delicado não envolve apenas regulamentação preventiva, mas a proporcionalidade das respostas sancionatórias.
A aplicação imediata de multas severas, acusações de má-fé e comunicações disciplinares em situações de erro culposo pode produzir ambiente institucional de medo tecnológico incompatível com a própria modernização do sistema de justiça.
A experiência histórica brasileira recomenda cautela. Durante a implantação do processo eletrônico, inúmeras falhas operacionais ocorreram em razão da ausência de adaptação técnica adequada. O sistema respondeu prioritariamente mediante orientação, capacitação e gradualismo institucional.
A lógica atual deveria seguir parâmetro semelhante. Em hipóteses sem dolo comprovado, sem vantagem ilícita e sem lesão processual grave, respostas educativas tendem a revelar maior compatibilidade com os princípios constitucionais da razoabilidade e proporcionalidade.
Responsabilidade civil e a complexidade do nexo de culpa
Na esfera civil, o debate exige análise ainda mais sofisticada.
O art. 186 do CC estabelece que aquele que causa dano mediante ação culposa pratica ato ilícito. Entretanto, a responsabilidade civil advocatícia permanece subjetiva, exigindo comprovação concreta de culpa e nexo causal.
A simples existência de informação falsa em peça processual não basta, isoladamente, para justificar responsabilização indenizatória automática. É indispensável avaliar:
- Existência de dano efetivo;
- Previsibilidade do erro;
- Grau de diligência profissional;
- Contexto de utilização tecnológica;
- Possibilidade razoável de detecção da falha.
Em ambientes de inovação tecnológica acelerada, a responsabilização civil deve evitar tanto a impunidade quanto o punitivismo excessivo. O Direito Civil contemporâneo não pode transformar o profissional em garantidor absoluto da perfeição algorítmica de ferramentas cujo funcionamento permanece estatisticamente falível.
Direito Penal,intervenção mínima e risco de criminalização excessiva
A expansão precipitada da responsabilidade penal representa talvez o risco mais sensível desse debate.
Crimes como falsidade ideológica, fraude processual e estelionato exigem dolo específico. O Direito Penal brasileiro não admite punição criminal baseada exclusivamente em negligência quando o tipo penal pressupõe intenção consciente de fraude.
A criminalização excessiva de erros tecnológicos culposos produziria consequências profundamente negativas para o desenvolvimento institucional do próprio sistema jurídico. O medo da persecução penal poderia desestimular utilização responsável de tecnologias potencialmente capazes de ampliar eficiência e democratizar acesso à justiça.
O princípio da intervenção mínima impõe contenção interpretativa. O Direito Penal deve permanecer reservado a hipóteses efetivamente dolosas, marcadas por intenção consciente de manipulação fraudulenta do sistema judicial.
Transformar falhas humanas compreensíveis em fenômenos de criminalização tecnológica significaria abandonar parâmetros elementares de racionalidade penal.
Conclusão
A inteligência artificial redefiniu definitivamente o funcionamento contemporâneo do Direito. O debate atual não consiste mais em saber se a tecnologia será incorporada ao sistema jurídico, mas em compreender sob quais limites éticos, constitucionais e institucionais essa incorporação ocorrerá.
As chamadas alucinações de IA representam problema real e juridicamente relevante. Exigem supervisão humana rigorosa, verificação constante em fontes oficiais e amadurecimento regulatório progressivo. Contudo, erros culposos decorrentes da utilização inicial dessas ferramentas não podem ser automaticamente equiparados à fraude dolosa.
A resposta constitucionalmente adequada exige equilíbrio entre inovação e responsabilidade. A preservação da boa-fé processual, a distinção entre culpa e dolo, a proporcionalidade sancionatória e a contenção do expansionismo penal constituem pressupostos indispensáveis para construção de modelo jurídico compatível com o Estado Democrático de Direito.
O futuro da justiça digital dependerá menos da capacidade tecnológica das máquinas e mais da maturidade institucional humana para utilizá-las com prudência, ética e responsabilidade.