Quem vigia os algoritmos? Constitucionalismo digital e o poder das big techs

Introdução

Vivemos em uma era em que os algoritmos deixaram de ser meros instrumentos técnicos para se tornarem atores centrais na mediação da vida social, política e econômica. As chamadas big techs - Google, Meta, Amazon, entre outras - exercem um poder que transcende fronteiras, regula comportamentos e influencia decisões individuais e coletivas. Nesse cenário, o Direito Constitucional é convocado a enfrentar um novo desafio: vigiar os algoritmos e limitar o poder das plataformas digitais, que hoje atuam como verdadeiros "governadores privados" do espaço público virtual.

A pergunta que dá título a este artigo - quem vigia os algoritmos? - não é apenas retórica. Ela revela uma lacuna normativa e institucional que precisa ser preenchida por um constitucionalismo digital, capaz de proteger os direitos fundamentais no ciberespaço e de garantir que a tecnologia esteja a serviço da democracia, e não o contrário.

Constitucionalismo digital: Fundamentos e desafios

O constitucionalismo digital é uma vertente emergente que busca adaptar os princípios clássicos do constitucionalismo - como a limitação do poder, a proteção dos direitos fundamentais e a supremacia da Constituição - às novas realidades da sociedade digital. Trata-se de reconhecer que o ambiente virtual não é neutro, mas profundamente marcado por relações de poder, interesses econômicos e riscos à liberdade individual.

Nesse contexto, os algoritmos operam como filtros invisíveis, determinando o que vemos, o que consumimos e até como pensamos. A modulação algorítmica da informação afeta diretamente direitos como:

• Liberdade de expressão;
• Privacidade;
• Proteção de dados pessoais;
• Igualdade no acesso à informação.
  

O desafio do constitucionalismo digital é duplo: reconhecer esses novos riscos e criar mecanismos jurídicos eficazes para enfrentá-los.

O poder das big techs e a eficácia horizontal dos direitos fundamentais

As Big Techs não apenas oferecem serviços - elas regulam o espaço público digital, definem regras de moderação de conteúdo, coletam e processam dados em larga escala e influenciam processos eleitorais. Essa atuação configura uma forma de poder privado com impacto público, o que exige a aplicação da eficácia horizontal dos direitos fundamentais.

Como bem destacou o ministro Gilmar Mendes, em palestra no STF, o uso da internet pode afetar a capacidade decisória do povo, exigindo que os direitos fundamentais sejam aplicados também nas relações entre indivíduos e empresas privadas, especialmente aquelas que controlam o fluxo informacional.

Decisões Judiciais e o Papel do STF

O Poder Judiciário brasileiro tem avançado na construção de um marco jurisprudencial sobre o tema. Destacam-se:

Julgamento do STF sobre o art. 19 do Marco Civil da Internet (RE 1.037.396 e RE 1.057.258)

Em junho de 2025, o STF declarou a inconstitucionalidade parcial do art. 19, permitindo a responsabilização das plataformas sem ordem judicial prévia em casos de conteúdos gravemente ilícitos. Essa decisão rompe com a lógica de blindagem das big techs e fortalece a soberania constitucional brasileira.

Dever de cuidado das plataformas

Ministros como Alexandre de Moraes e Luís Roberto Barroso defenderam que as plataformas devem atuar preventivamente na remoção de conteúdos ilícitos, como discursos de ódio, incitação à violência e ataques à democracia.

Relatório IRIS sobre moderação de conteúdo

Estudo com 191 decisões judiciais revelou que a maioria dos casos envolve suspensão indevida de contas, com reconhecimento do devido processo legal e da necessidade de transparência algorítmica.

Propostas para um constitucionalismo digital efetivo

Para que o constitucionalismo digital seja mais do que uma abstração teórica, é necessário, criar marcos regulatórios claros, como uma lei de liberdade, responsabilidade e transparência digital. Exigir transparência algorítmica, com auditorias independentes e acesso público às regras de moderação. Fortalecer a atuação das instituições democráticas, como o Judiciário e agências reguladoras. Promover a educação digital, capacitando cidadãos para compreender e questionar o funcionamento das plataformas. Estabelecer mecanismos de participação cidadã na governança das redes.

Conclusão

A pergunta "quem vigia os algoritmos?" é, na verdade, um chamado à ação constitucional. O poder das big techs não pode permanecer fora do alcance da Constituição. É preciso construir um novo constitucionalismo, capaz de enfrentar os desafios da era digital com coragem, inteligência e compromisso democrático.

O futuro da democracia depende da nossa capacidade de vigiar os algoritmos, limitar o poder das plataformas e garantir que os direitos fundamentais sejam respeitados em todos os espaços - inclusive no ciberespaço.