Estão na ordem do dia as discussões em torno da noção de riscos sistêmicos aplicada à inteligência artificial. Embora atual e relevante, a temática envolve uma série de desafios. Isso, porque, a rigor, associa-se o risco a uma lógica individual. Dito de outro modo, tem-se a imagem clássica de um dano específico que atinge uma pessoa ou um grupo determinado de pessoas atrelada à ideia de risco individual. O risco sistêmico, por sua vez, emerge em um contexto estrutural distinto, de modo a demandar, por vezes, tratamento diferenciado e regulamentação¹.

A origem da expressão risco sistêmico está associada ao campo do sistema financeiro e ganhou notoriedade especialmente após a crise financeira de 2008. Contudo, tal conceito não permaneceu restrito a esse mercado.² Observa-se a aplicação dessa lógica em outras matérias, como no contexto de alterações climáticas e cibersegurança. Com efeito, a noção de risco sistêmico alcançou o ambiente digital, que possui, por sua vez, uma pluralidade de características semelhantes àquelas observadas nos mercados financeiros, como (i) elevada interdependência; (ii) concentração de poder em poucos atores; (iii) forte integração tecnológica; e (iv) grande capacidade de propagação de efeitos.

Hoje, sistemas de inteligência artificial estão cada vez mais integrados às infraestruturas digitais, sociais e institucionais, de modo que não operam de forma isolada. Pelo contrário, estão incorporados a plataformas digitais, mecanismos de busca, sistemas de recomendação, sistemas financeiros, serviços públicos e processos decisórios que afetam milhões de pessoas de forma simultânea. Com atenção a esse cenário, atualmente existem dois importantes regulamentos europeus que incidem sobre o funcionamento deste tipo de plataformas³ e motores de pesquisa⁴ de muito grande dimensão⁵ na União Europeia⁶: o Regulamento dos Serviços Digitais⁷ e o Regulamento da Inteligência Artificial⁸.

Foi já com fundamento no Regulamento dos Serviços Digitais que, a nível europeu, a Comissão Europeia concluiu, por meio de uma investigação preliminar, que o TikTok usava funcionalidades aditivas como o scroll infinito, a reprodução automática, as notificações push e as recomendações personalizadas. Abriu igualmente uma investigação ao X, para aferir se a integração do Grok na plataforma foi acompanhada de uma avaliação adequada dos riscos de disseminação de conteúdos ilegais, incluindo imagens sexualmente explícitas manipuladas e material de abuso sexual de crianças e adolescentes⁹.

Alguns destes atos estão associados à enumeração de riscos sistêmicos apresentada pelo Regulamento dos Serviços Digitais: divulgação de conteúdo ilegal, efeitos negativos no exercício dos direitos fundamentais, na defesa dos consumidores, no discurso cívico e nos processos eleitorais, bem como na segurança pública, violência de gênero, proteção da saúde pública e das crianças e adolescentes, e às consequências negativas graves para o bem-estar físico e mental da pessoa¹⁰.

Para evitar ou atenuar estes riscos sistêmicos, as plataformas e motores de muito grande dimensão têm uma série de obrigações legais que devem observar. Nomeadamente, a avaliação dos riscos, implementação de mecanismos de atenuação de riscos e de resposta a situações de crise e promoção de auditorias independentes¹¹. Assevera-se, contudo, que o problema se torna ainda mais sério quando estas plataformas e motores de busca integram a IA por meio, por exemplo, de modelos de finalidade geral¹² regulados pelo Regulamento da Inteligência Artificial, no qual se incluem o GPT, Claude, Gemini, Mistral, entre outros sobejamente conhecidos e utilizados.

Os modelos de finalidade geral terão associado um risco sistêmico quando apresentam capacidades de elevado impacto, afetando significativamente o mercado da União Europeia devido ao seu alcance ou devido a efeitos negativos reais ou razoavelmente previsíveis na saúde pública, na segurança, na segurança pública, nos direitos fundamentais ou na sociedade no seu conjunto, que pode se propagar em escala ao longo da cadeia de valor¹³.

Os prestadores destes modelos também têm uma série de obrigações legais associadas similares às do Regulamento dos Serviços Digitais: avaliação e atenuação dos riscos sistêmicos, comunicação, sem demora injustificada, de incidentes graves e de medidas para resolvê-las, adoção de um nível adequado de proteção em termos de cibersegurança, entre outras. Para ajudar os prestadores, o Serviço para a inteligência artificial disponibilizou inclusive Códigos de Conduta¹⁴, os quais um grande número de empresas já aderiu¹⁵.

Quando temos plataformas ou motores de muito grande dimensão que usam modelos de finalidade geral, podemos ter um maior potencial para riscos sistêmicos que podem se concretizar, por exemplo, em situações de discriminação em escala¹⁶. Nestes casos, a aplicação das obrigações legais de ambos os Regulamentos terá que ser devidamente conjugada, começando-se por aplicar o Regulamento dos Serviços Digitais, e subsidiariamente, o Regulamento da Inteligência Artificial, quando o primeiro não cubra todos os aspetos relevantes¹⁷.

No contexto brasileiro, a discussão sobre riscos sistêmicos ainda é relativamente recente. Contudo, a temática aparece de forma relevante no contexto da integridade eleitoral. A preocupação com a matéria não é de difícil compreensão. Assim como ocorre na União Europeia, parte-se do reconhecimento de que plataformas digitais e sistemas algorítmicos passaram a desempenhar um papel central na circulação de informações, na formação da opinião pública e, consequentemente, nos próprios processos democráticos.

Nesse cenário, uma informação falsa, um conteúdo manipulado ou uma campanha coordenada de desinformação não produz apenas danos individualizados. Nessa ordem de ideias, o TSE passou a incorporar a linguagem dos riscos sistêmicos em sua regulamentação. O exemplo mais expressivo está presente no art. 9º-E da resolução 23.610, especialmente após as alterações promovidas pela recente resolução 23.755, de 2026. O citado dispositivo estabelece a responsabilidade solidária, civil e administrativa, dos provedores de aplicação que não promovam a indisponibilização imediata de conteúdos e contas em determinadas hipóteses consideradas especialmente graves durante o período eleitoral.

Entre tais hipóteses, destacam-se a disseminação de informações notoriamente falsas capazes de atingir a integridade do processo eleitoral, a incitação à violência contra instituições democráticas, os discursos de ódio, a violência política de gênero e, especialmente para os fins da nossa discussão, a circulação de conteúdos sintéticos produzidos ou modificados por inteligência artificial em desacordo com as regras de rotulagem ou com as demais vedações previstas pela regulamentação eleitoral.

Nesse aspecto, as alterações promovidas pela resolução 23.755, de 2026, merecem especial atenção. Além de atualizar a redação referente aos conteúdos produzidos por inteligência artificial, a nova resolução passou a contemplar expressamente a reprodução de conteúdos já declarados ilícitos pela Justiça Eleitoral, criando mecanismos voltados a evitar sua recirculação em larga escala. A Resolução também incorporou de forma explícita a violência política contra a mulher como hipótese de risco relevante para fins de atuação das plataformas.

Em suma, observa-se que a inteligência artificial promove vantagens indiscutíveis, mas também potencializa riscos que podem transcender situações individuais e atingir a sociedade em larga escala. Compreender essa mudança é um passo importante para a construção de respostas regulatórias capazes de conciliar inovação tecnológica e proteção de direitos fundamentais e processos democráticos.

_____

1. Philipp Hacker, Atoosa Kasirzadeh, Lilian Edwards, AI, Digital Platforms, and the New Systemic Risk, 2025, Disponível em: .

2. “Systemic risk became particularly embedded in EU financial regulation after the financial crisis of 2008. Article 2(c) of the ESRB Regulation (EU) No 1092/2010 defines systemic risk as ‘a risk of disruption in the financial system with the potential to have serious negative consequences for the internal market and the real economy’. Systemic risk, in this understanding, is marked by the potential to threaten the stability of an entire system (in this case, the financial system), and the severity of harm for actors in that system in case of materialization. Importantly, systemic risk, therefore, has both a collective and an individual dimension. Its realization would have a severe negative impact on entities in the system, but would also destabilize the system as such” (Philipp Hacker, Atoosa Kasirzadeh, Lilian Edwards, AI, Digital Platforms, and the New Systemic Risk, 2025, Disponível em: ).

3. As plataformas são entendidas como um serviço de alojamento virtual que, a pedido de um destinatário do serviço, armazene e difunda informações ao público, a menos que essa atividade seja um elemento menor e meramente acessório de outro serviço ou uma funcionalidade menor do serviço principal e que, por razões objetivas e técnicas, não possa ser utilizado sem esse outro serviço, e que a integração desse elemento ou dessa funcionalidade no outro serviço não constitua uma forma de contornar a aplicabilidade do Regulamento dos Serviços Digitais (cf. Art. 3.º, alínea i) do Regulamento dos Serviços Digitais.

4. Os motores de pesquisa em linha são um serviço intermediário que permite aos utilizadores fazer pesquisas para consultar, em princípio, todos os sítios na Internet, ou sítios na Internet numa determinada língua, com base numa pesquisa sobre qualquer assunto, sob a forma de uma palavra-chave, comando de voz, frase ou outros dados, e que fornece resultados em qualquer formato nos quais pode ser encontrada informação relacionada com o tipo de conteúdo solicitado (cf. Art. 3.º, alínea J) do Regulamento dos Serviços Digitais.

5. As plataformas em linha e os motores de pesquisa em linha que têm um número médio mensal de destinatários ativos do serviço na União igual ou superior a 45 milhões são designadas como plataformas em linha de muito grande dimensão ou motores de pesquisa em linha de muito grande dimensão (cf. Art. 33.º, do Regulamento dos Serviços Digitais).

6. A União Europeia mantém uma lista atualizada de todas as plataformas e motores de pesquisa de muito grande dimensão que pode ser consultada aqui: .

7. Regulamento (UE) 2022/2065 relativo a um mercado único para os serviços digitais.

8. Regulamento (UE) 2024/1689 do Parlamento Europeu e do Conselho de 13 de junho de 2024 que cria regras harmonizadas em matéria de inteligência artificial.

9. Mais informação sobre estas investigações disponível em: . 

10. Cf. Art. 34.º, n.º 1 do Regulamento dos Serviços Digitais.

11. Cf. artigos 33.º e seguintes do Regulamento dos Serviços Digitais.

12. Os modelos de finalidade geral são modelos treinados com uma grande quantidade de dados utilizando a autossupervisão em escala, que apresenta uma generalidade significativa e é capaz de executar de forma competente uma vasta gama de tarefas distintas, independentemente da forma como o modelo é colocado no mercado, e que pode ser integrado numa variedade de sistemas ou aplicações a jusante, exceto os modelos de IA que são utilizados para atividades de investigação, desenvolvimento ou criação de protótipos antes de serem colocados no mercado (cf. Art. 3.º, n.º 3 do Regulamento da Inteligência Artificial).

13. Cf. Art.s 3.º, n.º 64 e 51.º do Regulamento da Inteligência Artificial.

14. Podem ser consultados aqui: .

15. Lista que pode ser consultada aqui: .

16. Philipp Hacker, Lilian Edwards, Atoosa Kasirzadeh, AI, Digital Platforms, and the New Systemic Risk, 2025 e disponível em https://arxiv.org/abs/2509.17878.

17. Cf. Considerando 118 do Regulamento da Inteligência Artificial.