Em nosso livro "Teorias causais e meio ambiente: da perda de oportunidade à lógica fuzzy", examinamos a progressiva adaptação do direito de danos às transformações sociais, econômicas e tecnológicas. Concebida inicialmente para conflitos individuais, de causalidade linear e consequências imediatamente perceptíveis, a responsabilidade civil precisou desenvolver novas categorias à medida que os danos se tornaram coletivos, difusos, probabilísticos e tecnicamente complexos (ENZWEILER, 2021).
Durante longo período histórico, prevaleceu a compreensão de que o prejuízo deveria ser suportado pelo próprio lesado. As fórmulas res perit domino e casum sentit dominus exprimiam a ideia de que o dano permanecia onde incidia, salvo quando houvesse fundamento específico para transferi-lo a terceiro. A reparação constituía, portanto, exceção dependente da demonstração de conduta individualmente censurável.
A industrialização alterou esse equilíbrio. O crescimento das atividades perigosas e a multiplicação dos acidentes evidenciaram que a responsabilidade fundada exclusivamente na prova da culpa não oferecia proteção adequada às vítimas. O risco tornou-se, então, novo fundamento de imputação. As teorias do risco-proveito, do risco criado e do risco da atividade deslocaram o centro da análise do comportamento individual do agente para a atividade organizada que, ao mesmo tempo em que produz benefícios, expõe terceiros a perigos, causando prejuízos.
A transformação digital impõe agora um novo deslocamento. O problema já não decorre apenas da atividade perigosa ou da dificuldade de identificar a culpa, mas da incorporação de sistemas algorítmicos à própria estrutura de formação da decisão estatal.
A transposição dos procedimentos administrativos tradicionais para plataformas digitais possibilitou a adoção crescente de sistemas de inteligência artificial pela administração pública e pelo Poder Judiciário. Ferramentas de triagem, classificação, detecção de riscos, produção textual e apoio à decisão prometem maior eficiência, uniformidade e celeridade. Ao mesmo tempo, introduzem novas vulnerabilidades, sobretudo quando seus resultados interferem no acesso a direitos, benefícios, serviços públicos ou garantias processuais.
A lei 14.129/21, ao estabelecer princípios, regras e instrumentos para o Governo Digital, consagrou a inovação e a transformação digital como meios destinados a aumentar a eficiência da administração pública. Mas isso não constitui um valor autônomo nem autoriza o enfraquecimento das garantias do administrado. Sua legitimidade permanece condicionada à preservação dos direitos fundamentais e à possibilidade de controle da atuação estatal (BRASIL, 2021).
No âmbito do Poder Judiciário, a resolução 615/25 do CNJ estabeleceu normas para o desenvolvimento, governança, auditoria, monitoramento e uso responsável de soluções de inteligência artificial. O ato normativo vincula a inovação tecnológica à segurança, à transparência, à isonomia, à ética e à estrita observância dos direitos fundamentais dos jurisdicionados. Exige, ainda, que as soluções sejam submetidas a controles relacionados à segurança da informação, à proteção de dados, à robustez, à confiabilidade, à prevenção de vieses discriminatórios e à correlação entre dados de entrada e resultados produzidos (BRASIL, 2025).
É necessário, desde logo, distinguir os sistemas que apenas automatizam tarefas materiais daqueles que influenciam ou substituem juízos administrativos ou jurisdicionais. Um programa que verifica a existência de uma assinatura digital não exerce a mesma função de um modelo que atribui pontuação de risco, seleciona pessoas para fiscalização, recomenda a negativa de um benefício ou condiciona o exercício de um direito.
Também não se confundem os geradores automáticos de ementas, os assistentes institucionais e os instrumentos de pesquisa com sistemas propriamente decisórios. Embora possam interferir indiretamente na formação do convencimento, tais ferramentas, em princípio, desempenham função auxiliar. Essa circunstância não as torna juridicamente irrelevantes, mas impede que se atribua a todas as aplicações tecnológicas o mesmo grau de autonomia, risco e responsabilidade.
É possível reconhecer, assim, diferentes níveis de participação tecnológica na atividade estatal. Em um primeiro nível, encontram-se as ferramentas de automação material ou burocrática. Em um segundo, os sistemas de organização, classificação ou recomendação. Em um terceiro, os modelos que influenciam substancialmente a formação da decisão humana. No último nível, situam-se os sistemas que produzem decisões integralmente automatizadas, com efeitos diretos sobre a esfera jurídica dos cidadãos.
Quanto maior a autonomia conferida ao sistema (e, consequentemente, mais graves os efeitos produzidos sobre direitos), mais intensos devem ser os deveres estatais de transparência, validação, documentação, supervisão e revisão humana.
O principal desafio técnico-jurídico reside na opacidade de determinados sistemas, particularmente daqueles baseados em modelos complexos de aprendizado de máquina. Neles, a reconstrução integral do percurso entre os dados de entrada e o resultado pode revelar-se difícil, mesmo quando o funcionamento geral do sistema é conhecido. A denominada "caixa-preta" não caracteriza indistintamente todos os algoritmos, mas assume especial relevância nos sistemas probabilísticos e generativos, cujos resultados nem sempre podem ser explicados de maneira linear.
Essa opacidade não elimina o nexo causal nem rompe, por si só, a cadeia de imputação. Dificulta, contudo, a identificação da falha, a demonstração de sua origem e a contestação do resultado pelo administrado. Se o cidadão não conhece os dados empregados, os critérios de ponderação, as inferências realizadas e o grau de participação humana na decisão, sua capacidade de demonstrar o defeito do serviço torna-se significativamente reduzida.
Quando uma decisão influenciada por inteligência artificial causa dano em razão de dados incorretos, vieses, falhas de atualização, inadequação do modelo, alucinações ou ausência de supervisão efetiva, a fragmentação das atividades entre agentes públicos, desenvolvedores, integradores e fornecedores privados pode tornar obscura a cadeia de imputação. É claro, assim, que quanto mais distribuída a produção tecnológica da decisão, maior a possibilidade de que cada participante atribua a falha (culpa e responsabilidade) aos demais.
A dificuldade adquire especial importância diante das práticas conhecidas como dark patterns. Interfaces digitais podem ser deliberadamente estruturadas para induzir comportamentos, dificultar o exercício de direitos, desencorajar contestações ou conduzir o cidadão à aceitação de alternativas que não correspondem ao seu interesse. Nesses casos, o dano não decorre apenas do resultado, mas da própria arquitetura informacional utilizada para condicionar escolhas e limitar a autonomia do cidadão.
No direito brasileiro, como sabido, não se parte de um regime de responsabilidade subjetiva do Estado perante a vítima. O art. 37, § 6º, da Constituição da República estabelece a responsabilidade objetiva das pessoas jurídicas de direito público e das pessoas jurídicas de direito privado prestadoras de serviços públicos, preservando o direito de regresso contra o agente que houver atuado com dolo ou culpa (BRASIL, 1988).
A questão contemporânea, portanto, não consiste simplesmente em proclamar uma nova responsabilidade objetiva por danos algorítmicos. O sistema constitucional já admite a responsabilização estatal independentemente da demonstração de culpa individual do agente. O verdadeiro problema, acreditamos, consiste em determinar quando o resultado automatizado pode ser juridicamente imputado ao serviço público, quais deveres integram a prestação estatal adequada e como deve ser demonstrado o nexo entre o funcionamento do sistema e o prejuízo experimentado pelo cidadão.
A utilização de inteligência artificial não transfere ao administrado os riscos inerentes à opção tecnológica feita pelo poder público. Se o Estado decide automatizar parte de sua atividade, cabe-lhe selecionar sistemas adequados, avaliar previamente seus riscos, controlar a qualidade dos dados, documentar o funcionamento do modelo, prevenir discriminações, assegurar supervisão humana efetiva e instituir mecanismos acessíveis de contestação e revisão.
A responsabilidade estatal por danos algorítmicos deve ser compreendida, nesse sentido, como responsabilidade pela organização e pelo resultado funcional do serviço, respondendo o Estado por ter escolhido incorporar a tecnologia ao exercício da função pública, beneficiando-se de sua esperada eficiência, mas conservando o dever jurídico de assegurar que aquela opere de forma legítima, segura, explicável e revisável.
A participação de fornecedores privados não pode criar um vazio de responsabilidade perante o cidadão. A administração permanece responsável pelos instrumentos que incorpora ao exercício da função pública. Eventuais defeitos de concepção, desenvolvimento, integração ou manutenção poderão fundamentar a posterior distribuição interna dos encargos e o exercício do direito de regresso, conforme a legislação e os contratos aplicáveis. Essa discussão, contudo, não deve impedir nem retardar a reparação devida à vítima.
Conclui-se daí que o Estado, ao empregar tecnologias capazes de produzir interferências significativas na vida dos cidadãos, assume responsabilidade especial pela transparência, pela não discriminação e pela proporcionalidade do sistema.
Precisa-se colocar a debate, igualmente, a ideia de reserva de humanidade. Essa não exige que toda operação estatal seja realizada pessoalmente por um agente público. Requer, porém, que decisões capazes de restringir direitos não sejam entregues de modo irreversível a sistemas que a própria administração não consiga explicar, auditar ou corrigir. A supervisão humana, então, não pode ser apenas formal.
Os novos limites da responsabilidade estatal decorrem, portanto, da correspondência entre poder, risco e dever. Quanto maior for a autonomia conferida ao sistema e mais intensa a sua interferência sobre direitos, maiores deverão ser os deveres de governança, transparência, explicação, supervisão, contestação e reparação.
O Estado pode automatizar procedimentos, organizar dados e ampliar sua capacidade decisória. Não pode automatizar nem terceirizar a responsabilidade. A inteligência artificial ingressa na administração como instrumento do poder público e, precisamente por isso, não rompe a cadeia de imputação.
Em resumo e para concluir, a tecnologia modifica os meios da decisão administrativa e jurisdicional, mas não altera a titularidade do poder nem afasta a responsabilidade por seu exercício. Onde subsiste o poder estatal, deve subsistir, com igual intensidade, o dever de explicar, revisar e, quando necessário, indenizar.
____________
BRASIL. Constituição da República Federativa do Brasil de 1988. Brasília, DF: Presidência da República, 1988. Disponível aqui. Acesso em: 3/8/26.
BRASIL. Lei n. 14.129, de 29 de março de 2021. Dispõe sobre princípios, regras e instrumentos para o Governo Digital e para o aumento da eficiência pública. Brasília, DF: Presidência da República, 2021. Disponível aqui. Acesso em: 31/7/26.
BRASIL. Conselho Nacional de Justiça. Resolução n. 615, de 11 de março de 2025. Estabelece diretrizes para o desenvolvimento, a utilização e a governança de soluções desenvolvidas com recursos de inteligência artificial no Poder Judiciário. Brasília, DF: Conselho Nacional de Justiça, 2025. Disponível aqui. Acesso em: 31/7/26.
ENZWEILER, Romano José. Teorias causais e meio ambiente: da perda de oportunidade à lógica fuzzy. São Paulo: Dialética, 2021.