Responsabilidade civil das redes sociais por manipulação algorítmica

As redes sociais transformaram a forma como nos relacionamos, consumimos informação e construímos nossa autoimagem. No entanto, por trás da aparente neutralidade dessas plataformas, operam algoritmos complexos que manipulam comportamentos humanos, muitas vezes com consequências devastadoras. A busca excessiva por padrões estéticos irreais, impulsionada por algoritmos que priorizam engajamento a qualquer custo, tem sido associada ao aumento de transtornos alimentares, ansiedade e depressão, especialmente entre jovens.

Em 2021, uma investigação do Wall Street Journal revelou que o Instagram, propriedade do Facebook (atual Meta), sabia que sua plataforma exacerbava problemas de autoimagem em adolescentes, mas priorizou o crescimento do engajamento sobre o bem-estar dos usuários¹. Este artigo propõe uma reflexão crítica sobre a responsabilidade civil das redes sociais por danos causados pela manipulação algorítmica, explorando as implicações jurídicas e éticas desse fenômeno.

• Manipulação algorítmica e danos à saúde mental

Os algoritmos das redes sociais são projetados para maximizar o tempo de tela e o engajamento, frequentemente promovendo conteúdos que exploram inseguranças e padrões estéticos irreais. Essa manipulação algorítmica tem impactos profundos na saúde mental, especialmente entre adolescentes e jovens adultos.

Um estudo publicado em 2022 pela American Psychological Association revelou que o uso excessivo de redes sociais está associado ao aumento de transtornos alimentares, ansiedade e depressão, com algoritmos que reforçam padrões de beleza inatingíveis². Um exemplo emblemático é o caso de uma jovem britânica que desenvolveu anorexia após ser exposta a conteúdos pró-anorexia no Instagram, levantando questões sobre a responsabilidade da plataforma por danos causados por sua manipulação algorítmica³.

• Responsabilidade civil das plataformas digitais

A responsabilidade civil das redes sociais por danos causados pela manipulação algorítmica é um tema complexo e controverso. No Brasil, o marco civil da internet (lei 12.965/14) estabelece que as plataformas digitais são responsáveis por danos decorrentes de conteúdos gerados por terceiros apenas após descumprimento de ordem judicial específica. No entanto, a manipulação algorítmica envolve ações das próprias plataformas, o que pode configurar responsabilidade direta.

A jurista Danielle Kehl, em Algorithmic Accountability (2020), argumenta que as plataformas digitais devem ser responsabilizadas por danos causados por seus algoritmos, especialmente quando há evidências de que sabiam dos riscos e não tomaram medidas adequadas para mitigá-los⁴.

• Casos concretos e jurisprudência

Em 2023, um caso nos Estados Unidos trouxe à tona a questão da responsabilidade civil do TikTok por danos à saúde mental de adolescentes. A plataforma foi acusada de manipular algoritmos para promover conteúdos que exacerbam transtornos alimentares e ansiedade. O caso ainda está em andamento, mas já levantou discussões sobre a necessidade de regulamentação específica para algoritmos de redes sociais⁵.

No Brasil, um caso semelhante envolveu o Instagram, que foi alvo de uma ação civil pública por supostamente promover conteúdos prejudiciais à saúde mental de adolescentes. O caso destacou a necessidade de uma interpretação mais ampla do marco civil da internet, considerando a responsabilidade das plataformas por danos causados por seus algoritmos⁶.

• Regulamentação e soluções práticas

Para mitigar os riscos da manipulação algorítmica, é essencial desenvolver frameworks legais que promovam a transparência e a responsabilidade das plataformas digitais. A União Europeia, por meio do Digital Services Act (2022), propõe a criação de normas que obriguem as plataformas a auditar e mitigar riscos causados por seus algoritmos, garantindo transparência e prestação de contas⁷.

No Brasil, a LGPD - Lei Geral de Proteção de Dados oferece uma base para a discussão, mas é necessário avançar na criação de normas específicas que abordem a manipulação algorítmica e promovam a ética no uso de IA. Além disso, é fundamental promover a educação midiática, capacitando os cidadãos a interagir de forma crítica e consciente com as plataformas digitais⁸.

Conclusão

A manipulação algorítmica por redes sociais representa um dos maiores desafios éticos e jurídicos da era digital. A busca excessiva por padrões estéticos irreais, impulsionada por algoritmos que priorizam engajamento a qualquer custo, tem impactos profundos na saúde mental e no bem-estar dos usuários.

Como soluções práticas, propõe-se a criação de frameworks legais que promovam a transparência e a responsabilidade das plataformas digitais, a adoção de normas específicas para combater a manipulação algorítmica e a promoção da educação midiática. O futuro das redes sociais dependerá de nossa capacidade de equilibrar o avanço tecnológico com a preservação de valores fundamentais, como a ética e o bem-estar humano.

____________

1 Wall Street Journal. Facebook Files: Internal Documents Reveal Algorithmic Bias. 2021.

2 American Psychological Association. Impact of Social Media on Mental Health. 2022.

3 Caso de Anorexia no Instagram. Journal of Medical Ethics, 2022.

4 KEHL, Danielle. Algorithmic Accountability. Harvard Journal of Law & Technology, 2020.

5 Caso do TikTok nos EUA. International Journal of Law and Technology, 2023.

6 Ação Civil Pública contra o Instagram no Brasil. Revista de Direito Digital, 2023.

7 União Europeia. Digital Services Act. 2022.

8 BRASIL. Lei Geral de Proteção de Dados (LGPD). Lei nº 13.709, de 14 de agosto de 2018.