Inteligência artificial e o novo paradigma jurídico: Eficiência, confabulação e o devido processo legal tecnológico

1. Alcance popular e difusão da inteligência artificial generativa

A inteligência artificial tem experimentado, nos últimos anos, crescimento acelerado, deixando de ser tecnologia restrita a centros acadêmicos e laboratórios de pesquisa para alcançar ampla difusão no âmbito social e profissional.

Esse avanço foi impulsionado por marcos científicos relevantes, especialmente a partir da publicação do artigo Attention Is All You Need (2017)¹, desenvolvido por pesquisadores do Google, com colaboração da Universidade de Toronto.

O estudo introduziu a arquitetura Transformer, que representou mudança significativa no processamento de linguagem natural, isto é, na capacidade dos sistemas computacionais de compreender e gerar linguagem humana, ampliando a aplicação dessas tecnologias para além de contextos estritamente técnicos e especializados.

Nos anos subsequentes, o desenvolvimento dos chamados modelos fundacionais² (sistemas treinados em larga escala e adaptáveis a múltiplas tarefas), aliado à disponibilização de interfaces conversacionais acessíveis ao público, expandiu de forma expressiva o acesso a essas tecnologias.

Como consequência, a inteligência artificial generativa passou a se difundir em escala global, consolidando-se como ferramenta acessível a usuários e profissionais de diversas áreas, inclusive no campo jurídico, onde vem sendo empregada como instrumento auxiliar no desempenho de atividades rotineiras.

2. Países e centros de destaque no desenvolvimento da IA

No cenário global, alguns países concentram a liderança no desenvolvimento da inteligência artificial. Os Estados Unidos ocupam posição central, reunindo empresas responsáveis pela criação de modelos fundacionais amplamente utilizados, como OpenAI, Google/DeepMind, Microsoft, Meta e Anthropic³.

A China, por sua vez, destaca-se como potência tecnológica emergente, com a atuação de grandes conglomerados, como Baidu e Alibaba, além do surgimento de novos atores, como a DeepSeek. O país vem realizando investimentos expressivos no desenvolvimento de modelos de inteligência artificial em larga escala, com forte apoio estatal à pesquisa, ao desenvolvimento e à inovação tecnológica.

Já a União Europeia assume protagonismo no campo regulatório com a aprovação do Regulamento (UE) 2024/1689 - Artificial Intelligence Act⁴, considerado um dos primeiros marcos normativos abrangentes sobre inteligência artificial. O diploma adota uma abordagem baseada em níveis de risco, estabelecendo obrigações proporcionais conforme a classificação dos sistemas, especialmente os de alto risco, incluindo requisitos de transparência, governança, documentação técnica e supervisão humana.

3. A posição do Brasil e sua inserção no cenário global

O Brasil, embora não figure entre os principais desenvolvedores de modelos fundacionais de inteligência artificial em escala global, tem se inserido progressivamente nesse cenário como relevante usuário e adaptador dessas tecnologias. Destacam-se iniciativas tanto no setor público quanto no privado, inclusive voltadas à transformação digital e ao suporte tecnológico das atividades judiciais.

No âmbito do Poder Judiciário, os tribunais brasileiros vêm desenvolvendo sistemas baseados em inteligência artificial voltados à gestão processual, à análise de dados e ao apoio na triagem e classificação de recursos. Entre as iniciativas mais relevantes, destaca-se o Projeto Victor⁵, desenvolvido pelo STF em parceria com a Universidade de Brasília (UnB), que utiliza técnicas de processamento automatizado de textos jurídicos para auxiliar na triagem de recursos extraordinários, identificando temas de repercussão geral e contribuindo para a racionalização do fluxo processual.

Em prosseguimento, o Supremo Tribunal Federal ampliou o uso de soluções tecnológicas com o desenvolvimento de sistemas como o Rafa 2030, voltado à classificação temática de processos, de acordo com os objetivos de desenvolvimento sustentável (ODS) da agenda de 2023 da ONU, e o Vitoria, destinado à análise e ao agrupamento de processos por similaridade textual.

Em atividades de maior complexidade, como a elaboração de relatórios e minutas, destaca-se o sistema Maria, no âmbito do STF, semelhante ao STJ Logos⁶, desenvolvido pelo STJ, ambos voltados à análise de processos e ao apoio na elaboração de peças que integram decisões monocráticas e acórdãos.

Tais iniciativas evidenciam a incorporação progressiva da inteligência artificial como instrumento de eficiência administrativa e de aprimoramento da gestão processual no sistema de justiça brasileiro. Contudo, na mesma medida em que ampliam a eficiência, também suscitam preocupações quanto aos riscos associados à automatização da atividade decisória.

4. O devido processo legal tecnológico e os novos desafios para a advocacia

A doutrina processual contemporânea tem identificado o surgimento do chamado devido processo legal tecnológico, cuja formulação vem sendo progressivamente desenvolvida na literatura jurídica. No contexto brasileiro, destacam-se as contribuições de Abboud e Pereira (2021)⁷, que propõem a reinterpretação das garantias processuais à luz da utilização de sistemas informatizados no âmbito jurisdicional.

Em alinhamento com essa construção doutrinária, o CNJ disciplinou o uso de inteligência artificial no Poder Judiciário por meio da resolução 615/25, que estabelece diretrizes para o desenvolvimento e a utilização responsável dessas tecnologias, com ênfase na transparência, no controle e na supervisão humana. O normativo reafirma o caráter meramente auxiliar da IA na atividade jurisdicional.

No plano normativo, o ordenamento jurídico brasileiro já contempla mecanismos compatíveis com essa transformação. O art. 193 do CPC autoriza a prática total ou parcial de atos processuais por meio eletrônico, dada a adaptação da atividade jurisdicional ao ambiente digital.

De forma complementar, a LGPD (lei 13.709/18), especialmente em seu art. 20, assegura ao titular o direito de solicitar a revisão de decisões tomadas exclusivamente com base em tratamento automatizado de dados pessoais.

Trata-se de garantia relevante; contudo, seu alcance no âmbito do Poder Judiciário, diante da crescente incorporação da inteligência artificial generativa, ainda demanda consolidação interpretativa, a ser progressivamente delineada pela prática jurisdicional e pela releitura do devido processo legal.

Em perspectiva evolutiva, o projeto de lei 2.338/23⁸ propõe a instituição de um marco regulatório abrangente para a inteligência artificial no Brasil, estruturado a partir de uma abordagem baseada em risco, em consonância com tendências internacionais. O projeto prevê, ainda, direitos das pessoas afetadas, mecanismos de governança, avaliação de impacto algorítmico e regimes diferenciados de responsabilidade civil.

Nesse contexto, a atuação do advogado se reconfigura, sendo indispensável, para além do domínio técnico do direito, compreender o funcionamento das tecnologias empregadas no processo, avaliar criticamente seus resultados e verificar a confiabilidade das informações produzidas por sistemas automatizados, identificando eventuais vieses ou inconsistências.

No cenário global, e, em especial, no Brasil, o regime normativo aplicável à inteligência artificial encontra-se em construção. Não obstante, permanecem inalteradas as garantias que estruturam o devido processo legal, impondo a observância de parâmetros de transparência, controle e supervisão humana. Nesse contexto, incumbe ao advogado papel central na validação das informações levadas ao processo, preservando-se os deveres de diligência, lealdade e boa-fé.

5. Riscos associados à inteligência artificial e o problema da confabulação

Ao lado dos benefícios associados à inteligência artificial, a literatura técnica reconhece a existência de riscos relevantes decorrentes de seu uso. Nesse contexto, o NIST - Instituto Nacional de Padrões e Tecnologia dos Estados Unidos, por meio do documento NIST AI 600-1 - Generative AI Profile⁹, integrante da iniciativa de IA confiável e responsável, realizou um mapeamento sistemático desses riscos, identificando doze categorias principais, em rol não exaustivo.

Entre esses riscos, assume especial relevância, no campo jurídico, o fenômeno da confabulação, coloquialmente denominada “alucinação” ¹⁰ de IA, que atua como vetor de riscos correlatos. Trata-se da geração de conteúdos aparentemente plausíveis e tecnicamente estruturados, mas destituídos de veracidade fática ou de respaldo jurídico.

No contexto de apoio à construção de teses jurídicas, essa distorção pode se manifestar tanto na criação de precedentes jurisprudenciais inexistentes quanto na elaboração fictícia de dispositivos legais, artigos de lei ou fundamentos normativos sem correspondência no ordenamento vigente.

Há, portanto, no fenômeno da confabulação, quando incidente sobre atos processuais, como a elaboração de peças jurídicas, relação de causalidade e de reforço em relação a outros riscos mapeados pelo NIST AI 600-1, especialmente o comprometimento da integridade da informação e a interação humano-IA marcada por viés de automação.

Trata-se de situação de elevada gravidade, pois a confabulação não apenas produz conteúdos incorretos, mas também favorece sua aceitação acrítica, tanto pelo operador do Direito que subscreve a peça quanto pelo julgador ou órgão colegiado que a examina, ampliando o risco de erro decisório e de comprometimento da regularidade processual.

6. Inteligência artificial na advocacia: Entre o dever de verificação e a má-fé processual

O ordenamento jurídico brasileiro impõe às partes e a seus procuradores deveres de atuação ética e diligente. O CPC estabelece a obrigação de conduta pautada na lealdade e na boa-fé (art. 77), vedando a formulação de alegações destituídas de fundamento (art. 80, V).

Em igual sentido, o Estatuto da Advocacia (lei 8.906/1994) e o Código de Ética e Disciplina da OAB exigem atuação técnica, responsável e diligente. Nesse contexto, a utilização de ferramentas de inteligência artificial não afasta tais deveres, sendo indelegável ao advogado a verificação da veracidade e da consistência das informações levadas ao processo.

A problemática revela-se especialmente sensível na utilização de precedentes judiciais, elemento central da argumentação jurídica contemporânea. A inserção de julgados inexistentes, a alteração de seu conteúdo ou a atribuição indevida de entendimentos a tribunais configura distorção grave, apta a comprometer a estrutura do raciocínio jurídico e a confiabilidade do processo decisório.

A jurisprudência brasileira já enfrenta, de forma concreta, essas situações. No julgamento da reclamação 78.890 AgR/BA¹¹, o STF identificou que a petição inicial se apoiava em precedentes inexistentes, afastando a tese de mero erro material. A Corte reconheceu a existência de inconsistências reiteradas, inclusive com alteração substancial de precedentes e de súmula vinculante, aptas a induzir o juízo em erro. Constatou-se, ainda, a presença de indícios materiais de uso de ferramenta com assistência de IA, sem revisão posterior, o que reforçou a gravidade da conduta.

Diante desse cenário, a atuação foi enquadrada como má-fé processual (art. 80, V, do CPC), em razão do falseamento/confabulação de precedentes em demanda cuja admissibilidade depende de sua correta indicação. Tratando-se de reclamação constitucional, o Supremo Tribunal Federal destacou que a referência a precedentes constitui elemento estrutural desse instrumento, de modo que sua manipulação compromete sua finalidade e a lealdade processual, culminando na aplicação de sanções e na comunicação à OAB.

No mesmo sentido, o TJ/SP, a 1ª Câmara Reservada de Direito Empresarial, no agravo de instrumento 2206069-59.2025.8.26.0000¹², assentou que a inserção de jurisprudência inexistente, ainda que decorrente do uso de inteligência artificial, não configura mero equívoco, mas conduta grave, incompatível com os deveres profissionais do advogado.

O acórdão enfatiza o dever indeclinável de verificação da veracidade das informações constantes das peças processuais, reconhecendo que a reprodução de conteúdo inverídico é apta a induzir o juízo em erro e comprometer a higidez do processo, legitimando a aplicação de multa por litigância de má-fé.

Na mesma linha, a 8ª Câmara de Direito Público, no julgamento do agravo de instrumento 2313081-35.2025.8.26.0000¹³ reforça que a utilização de precedentes inexistentes, ainda que sem dolo específico, configura comportamento objetivamente temerário, suficiente para caracterizar má-fé processual. O Tribunal foi expresso ao afirmar que o uso de inteligência artificial não atenua a responsabilidade profissional, exigindo, ao contrário, supervisão humana efetiva e controle rigoroso das informações utilizadas.

Em caso ainda mais expressivo, no julgamento da apelação criminal 1500026-62.2023.8.26.0633¹⁴, a 4ª Câmara de Direito Criminal do TJ/SP reconheceu a litigância de má-fé em situação na qual precedentes inexistentes foram atribuídos ao próprio relator e a outro membro do colegiado. O acórdão qualificou a conduta como “antiética e muito perigosa”, destacando que a inserção de fundamentos fictícios com aparência de legitimidade institucional compromete não apenas a regularidade do processo, mas também a credibilidade da jurisdição.

Consolida-se, assim, paradigma no qual a tecnologia, embora potencialize eficiência e produtividade, também amplifica riscos de comprometimento da regularidade processual e da integridade informacional. A centralidade da atuação humana, especialmente na filtragem crítica, validação e responsabilização pelo conteúdo jurídico produzido, reafirma-se como condição indispensável à legitimidade do processo e à confiabilidade da jurisdição.

Em última análise, o desafio contemporâneo do advogado não reside na adoção ou rejeição da inteligência artificial, cuja utilização pelos tribunais e a submissão de demandas a seus mecanismos já constituem realidade consolidada, mas na construção de um modelo de uso juridicamente responsável, no qual inovação tecnológica e integridade processual coexistam de forma equilibrada, assegurando que o avanço tecnológico não se opere em detrimento dos fundamentos que estruturam o Estado de Direito.

______________

1 VASWANI, Ashish et al. Attention Is All You Need (“A atenção é tudo o que você precisa”). In: CONFERENCE ON NEURAL INFORMATION PROCESSING SYSTEMS (NeurIPS), 31., 2017, Long Beach, CA. Proceedings [...]. [S.l.]: Neural Information Processing Systems, 2017. Desenvolvido no âmbito do Google Brain e Google Research, com colaboração acadêmica da University of Toronto (Aidan N. Gomez).

2 BOMMASANI, Rishi; HUDSON, Drew A.; ADELI, Ehsan; ALTMAN, Russ; ARORA, Simran et al. On the Opportunities and Risks of Foundation Models (Sobre as oportunidades e os riscos dos modelos fundacionais). Stanford: Center for Research on Foundation Models (CRFM), 2021. Disponível em: https://arxiv.org/abs/2108.07258, https://crfm.stanford.edu/report.html Acesso em: 23 mar. 2026.

³ ANTHROPIC. Anthropic. Disponível em: https://www.anthropic.com/. Acesso em: 23 mar. 2026. Empresa de pesquisa em inteligência artificial voltada ao desenvolvimento de sistemas seguros, interpretáveis e alinhados.

4 UNIÃO EUROPEIA. Regulamento (UE) 2024/1689 do Parlamento Europeu e do Conselho, de 13 de junho de 2024, que cria regras harmonizadas em matéria de inteligência artificial (Regulamento da Inteligência Artificial – AI Act). Jornal Oficial da União Europeia, 12 jul. 2024. Disponível em: Regulamento da Inteligência Artificial – AI Act. Acesso em: 23 mar. 2026.

5 SUPREMO TRIBUNAL FEDERAL. STF amplia uso de inteligência artificial em apoio à atividade jurisdicional. Disponível em:https://noticias.stf.jus.br/postsnoticias/stf-amplia-uso-de-inteligencia-artificial-em-apoio-a-atividade-jurisdicional/. Acesso em: 23 mar. 2026.

6 STJ (STJ). STJ lança novo motor de inteligência artificial generativa para aumentar eficiência na produção de decisões. Brasília, 11 fev. 2025. Disponível em: https://www.stj.jus.br/sites/portalp/Paginas/Comunicacao/Noticias/2025/11022025-STJ-lanca-novo-motor-de-inteligencia-artificial-generativa-para-aumentar-eficiencia-na-producao-de-decisoes.aspx. Acesso em: 4 abr. 202

7 ABBOUD, Georges; PEREIRA, João Sérgio dos Santos Soares. O devido processo na era algorítmica digital: premissas iniciais necessárias para uma leitura constitucional adequada. Revista dos Tribunais, São Paulo, v. 1026, ano 110, p. 125-145, abr. 2021. Disponível em: https://drive.google.com/file/d/1t2LMzl63IZn26M4_MfVbVZwKZYjcI4lt/view?usp=sharing

8 BRASIL. Senado Federal. Projeto de Lei nº 2.338, de 2023. Dispõe sobre o uso da inteligência artificial. Disponível em: https://www.camara.leg.br/proposicoesWeb/fichadetramitacao?idProposicao=2487262. Acesso em: 23 mar. 2026. Atualmente, encontra-se em tramitação, tendo sido remetido à Câmara dos Deputados: https://legis.senado.leg.br/sdleg-getter/documento?disposition=inline&dm=9347622 (Casa Revisora), onde aguarda parecer do relator em comissão especial, após aprovação no Senado Federal (Casa Iniciadora), com posterior encaminhamento previsto para sanção presidencial.

9 NIST. Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile (NIST AI 600-1). 2024.Disponível em: https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf

10 A utilização do termo “alucinação” não é tecnicamente adequada, pois sugere uma experiência perceptiva subjetiva (típica de seres humanos). https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf

11 BRASIL. Supremo Tribunal Federal. AgRg na Rcl 78.890/BA, Rel. Min. Cristiano Zanin, Primeira Turma, j. 16 jun. 2025, DJe 18 jun. 2025. Disponível em: https://drive.google.com/file/d/13d83WHmSxG2AXgNAlGniu2vu-7P6EldW/view?usp=sharing

12 BRASIL. Tribunal de Justiça do Estado de São Paulo. Agravo de Instrumento nº 2206069-59.2025.8.26.0000. Relator: Des. Azuma Nishi. 1ª Câmara Reservada de Direito Empresarial. Julgado em: 18 dez. 2025. Publicado em: 18 dez. 2025. Disponível em: https://drive.google.com/file/d/1_jiuLiKn2R5ex6--LJhqGBUXJHha_urb/view?usp=sharing

13 BRASIL. Tribunal de Justiça do Estado de São Paulo. Agravo de Instrumento nº 2313081-35.2025.8.26.0000. Relator: Des. Leonel Costa. 8ª Câmara de Direito Público. Julgado em: 19 fev. 2026. Publicado e

14 BRASIL. Tribunal de Justiça do Estado de São Paulo. Apelação Criminal nº 1500026-62.2023.8.26.0633. Relator: Des. Luis Soares de Mello. 4ª Câmara de Direito Criminal. Julgado em: 27 nov. 2025. Publicado em: 27 nov. 2025.Disonível em: https://drive.google.com/file/d/1ZvDR_Dla75DeuFi4SDZavWpo4Wl7N7MO/view?usp=sharing