Plataformas não nascem de um Big Bang é tudo pré-desenhado, mas há dever de cuidado?

1. Introdução

A consolidação das plataformas digitais como infraestruturas de comunicação, entretenimento e socialização alterou também a natureza dos riscos aos quais seus usuários - e, em alguns casos, crianças e adolescentes - estão submetidos. Diferentemente do que alguns aludem sobre o universo, o ambiente virtual não nasceu de um Big Bang: não houve um instante inaugural de homogeneidade perfeita, do qual toda a arquitetura subsequente teria se formado por acaso, sujeita apenas a leis físicas indiferentes a qualquer intenção. Alguém desenhou cada funcionalidade, cada botão, cada algoritmo de recomendação, cada configuração padrão de privacidade, cada limite - ou ausência de limite - de idade. Esse alguém carregava, como qualquer pessoa carrega, vieses, prioridades comerciais e pressupostos sobre quem seria o usuário típico do serviço. Não existe, portanto, espaço virtual neutro, a ser regulado apenas depois que os fatos ocorrem.

A pergunta relevante não é se a plataforma tem vieses e predefinições - toda arquitetura os tem, por definição -, mas se houve transparência sobre esses vieses e se o agente digital atuou com o devido dever de cuidado já ao formular cada funcionalidade, sopesando a proteção do público mais vulnerável em relação a outras variáveis do modelo de negócio, como engajamento e monetização. Essa pergunta ganha peso redobrado quando os usuários são crianças e adolescentes: a Constituição Federal (art. 227) e o Estatuto da Criança e do Adolescente tratam sua proteção como prioridade absoluta, e o ECA Digital (lei 15.211/25) transportou essa lógica para o desenho e a operação dos serviços digitais, impondo obrigações de prevenção, supervisão parental, aferição de idade e gerenciamento de riscos, com fiscalização a cargo da ANPD.

É nesse contexto que se insere o caso Discord, usado neste artigo como estudo de caso, e não como objeto de conclusão sobre responsabilidade específica. Em 12 de agosto de 2026, a ANPD determinou, pelo despacho decisório 3/2026/SFI, a suspensão no Brasil de funcionalidades de transmissão de vídeo do Discord, no bojo do processo de fiscalização 00261.004804/2026-54, instaurado após episódio amplamente noticiado envolvendo a morte de uma adolescente de 13 anos, associada a uma sessão de voz da plataforma em 22 de julho de 2026¹. O processo permanece em curso: a Discord apresentou, em 14 de agosto de 2026, resposta formal ao ofício de instrução e um pedido de reconsideração contra a suspensão, contestando premissas fáticas centrais da decisão². Este artigo, por isso, não antecipa nem julga o desfecho administrativo, ainda pendente, nem eventual desdobramento judicial. O dever de cuidado, de todo modo, não pode ser confundido com garantia de risco zero: a questão juridicamente relevante é se, consideradas as características do serviço e os riscos previsíveis, foram adotadas, desde a concepção, as medidas de proteção razoavelmente esperadas.

2. O caso Discord: Fatos confirmados e fatos em disputa

O Discord oferece comunicação por texto, áudio e vídeo em servidores e canais majoritariamente privados e por convite; o Go Live permite compartilhar tela ou câmera em canais de voz. A nota técnica que fundamentou a suspensão qualifica a plataforma como serviço de acesso provável por crianças e adolescentes, cujas funcionalidades de comunicação síncrona expõem esse público a riscos de contato prejudicial, assédio e aliciamento - atraindo os deveres de prevenção, segurança por desenho, adequação etária e gerenciamento de riscos do ECA Digital.

O episódio concreto envolveu a morte de uma adolescente de 13 anos, em 22 de julho de 2026, em conexão com um canal de voz privado do Discord - fato que a imprensa associou à chamada "Operação Lívia". Vários pontos, porém, seguem disputados nos próprios autos. A nota técnica descreve o servidor como espaço de transmissão para "mais de duzentos usuários"³; a Discord responde que era servidor privado, por convite, por onde passaram 51 contas ao longo de duas horas, não necessariamente simultâneas⁴, e sustenta, com base em marcações temporais de uma captura de tela fornecida por terceiro, que o ato final ocorreu após a remoção do servidor, às 04h15⁵. A nota técnica também atribui relevância ao fato de que, desde 2 de março de 2026, as comunicações de áudio e vídeo passaram a exigir criptografia de ponta a ponta, sugerindo que a mudança, situada "às vésperas" da entrada em vigor do ECA Digital, reduziu a capacidade de detecção⁶; a Discord responde que o protocolo (DAVE) foi anunciado publicamente em setembro de 2024, mais de um ano antes da lei⁷. São disputas factuais concretas, verificáveis por datas públicas, que este artigo relata sem adotar como definitiva nenhuma das duas versões.

Há, por fim, uma camada de risco que antecede o episódio: reportagem do Fantástico já em abril de 2023 alertava para o uso do Discord por adolescentes em contextos de violência extrema e estímulo à automutilação⁸, e a própria nota técnica registra, com base em dados da SaferNet Brasil, crescimento de 54% nas denúncias envolvendo o Discord entre janeiro e julho de 2026⁹. A existência de alertas anteriores altera a pergunta relevante: não o que foi feito depois do episódio, mas o que foi feito, e quando, entre os alertas conhecidos e sua ocorrência - questão que não depende de qual versão dos fatos de julho prevalecerá.

3. Da remoção de conteúdo ao dever de cuidado no design

A regulação inicial da internet concentrou-se na responsabilidade por conteúdos de terceiros e nas condições para sua remoção - paradigma insuficiente para os problemas contemporâneos de segurança digital. O próprio ECA Digital caminha em outra direção: seu art. 6º exige que fornecedores adotem, "desde a concepção e ao longo da operação"¹⁰, medidas para prevenir riscos de violência, assédio e indução a automutilação ou suicídio, e seu art. 8º impõe o desenvolvimento, "desde a concepção", de sistemas voltados à segurança de crianças e adolescentes¹¹. A literatura converge no mesmo sentido: para Mazúr e Patakyová, o denominador comum dos danos mais visíveis da economia digital está no design das plataformas, "criado para atingir interesses econômicos dos agentes, ao mesmo tempo em que impõe externalidades significativas à sociedade"¹²; Ana Frazão sustenta que o dever de cuidado "deve projetar-se não apenas sobre o controle de conteúdos, mas sobre a própria arquitetura das plataformas"¹³; e o STF, ao concluir em 2025 o julgamento conjunto dos Temas 987 e 533 de repercussão geral, impôs às plataformas deveres de cuidado contínuo para categorias de conteúdo que incluem, expressamente, crimes contra crianças e adolescentes e conteúdo que induza ao suicídio ou à automutilação¹⁴.

Entender que a plataforma apenas hospeda conteúdos é leitura simplista: é o próprio agente digital que define possibilidades de interação, cria mecanismos de recomendação, determina configurações padrão e escolhe quais riscos serão tecnicamente monitorados. O risco criado por uma funcionalidade não é dado externo e inevitável: é produto de uma escolha de desenho que poderia ter sido outra. Busca-se, assim, verificar se o ambiente foi criado respeitando o dever de cuidado esperado, mitigando previamente a ocorrência de ilícitos, e não apenas reagindo a eles depois de consumados.

4. "Não basta adotar medidas": O que a nota técnica e a resposta da Discord revelam

O caso permite testar essa tese contra um episódio concreto de aplicação regulatória - com a ressalva de que os fatos subjacentes seguem disputados. A nota técnica rejeita o argumento de que a criptografia de ponta a ponta, por si só, afastaria o dever de cuidado da plataforma: "não basta à empresa afirmar que a comunicação entre usuários é privada e, portanto, não possui acesso ao conteúdo, uma vez que cabe ao fornecedor a escolha da arquitetura dos sistemas"¹⁵, cabendo-lhe implementar controles substitutivos de eficácia equivalente. É, em termos quase idênticos, o argumento central deste artigo. E o mais revelador é que a própria Discord não contesta esse vocabulário: descreve manter um "processo de produto safer-by-design", com identificação de riscos e monitoramento pós-lançamento integrados ao ciclo de desenvolvimento¹⁶, além de aferição de idade por padrão, central de supervisão parental e um programa de detecção comportamental dedicado ao Brasil¹⁷.

A disputa entre autoridade e empresa, portanto, não é sobre se o dever de cuidado deve incidir sobre o design do serviço - nisso concordam, ao menos em vocabulário -, mas sobre se as medidas efetivamente adotadas foram suficientes diante do risco concreto. A nota técnica conclui que não, apontando mecanismos majoritariamente ex post facto ou de eficácia ex ante limitada, e um falso negativo relevante no episódio de julho¹⁸; a Discord responde que se trata de falha pontual de uma camada probabilística dentro de um sistema multicamadas, e não prova de que o modelo protetivo é, como um todo, inoperante¹⁹. Por trás dessa disputa está uma inversão de prioridade que este artigo defende: quando estiverem em jogo crianças e adolescentes, a proteção deve constituir premissa do desenho do serviço, e não restrição posterior ao modelo de negócio - a internet não é terra de ninguém, e uma plataforma que decide operar em mercado no qual esse público inevitavelmente está presente assume, por essa decisão, o dever de garantir um ambiente seguro, ainda que a custo relevante.

5. Conclusão

O caso Discord não deve ser lido apenas como uma pergunta sobre se a ANPD "foi longe demais", nem reduzido à disputa sobre os fatos específicos de julho de 2026, que este artigo não tem condições de resolver. Ele serve, sobretudo, como teste concreto de um argumento mais amplo: diante de riscos como automutilação, indução ao suicídio e exposição indevida de crianças e adolescentes em ambientes de comunicação em tempo real, que dever de cuidado deveria orientar, desde a concepção, o desenho desses ambientes? A resposta não se esgota em uma lista de medidas adotadas - e o confronto entre a nota técnica e a resposta da Discord ilustra isso com precisão pouco comum: nenhuma das partes nega que o dever de cuidado deva incidir sobre o design do serviço; o desacordo real está em saber se, em concreto, as medidas efetivamente implementadas foram suficientes, e se a medida adotada para lidar com essa insuficiência observou os limites e a proporcionalidade que a própria lei exige.

Isso não torna trivial a tarefa de avaliar, em cada caso concreto, se esse dever foi cumprido, nem quando uma medida preventiva de determinada intensidade é proporcional - o que exige compreender as características do serviço, os riscos previsíveis, as alternativas tecnicamente disponíveis e os custos de cada escolha de arquitetura. Esse continuará sendo o problema mais difícil desta construção regulatória. Ainda assim, uma premissa pode orientar o exame: quando decisões de arquitetura, funcionalidade ou modelo de negócio envolverem riscos relevantes a crianças e adolescentes, a proteção desse público deve ocupar posição prioritária. A exploração econômica da atividade é legítima, mas encontra limites nos valores que o ordenamento jurídico brasileiro protege de maneira especialmente rigorosa - e não parece razoável que escolhas orientadas à ampliação de engajamento ou receita justifiquem a redução do nível de proteção devido, especialmente a crianças e adolescentes.

_________

1. ANPD. nota técnica nº 1/2026/CGF/SFI/ANPD, item 5.1; despacho decisório nº 3/2026/SFI, Processo nº 00261.004804/2026-54, 12/08/2026.

2. DISCORD INC. Resposta ao Ofício nº 16/2026/CGF/SFI/ANPD (Petição Versão Pública, SEI nº 0322980) e Pedido de Reconsideração (SEI nº 0322988), ambos de 14/08/2026, nos autos do Processo nº 00261.004804/2026-54.

3. ANPD. nota técnica nº 1/2026/CGF/SFI/ANPD, item 5.1.

4. DISCORD INC. Pedido de Reconsideração (SEI nº 0322988), item IV(a); Resposta ao Ofício nº 16/2026 (SEI nº 0322980), item 2.1.2.

5. DISCORD INC. Pedido de Reconsideração (SEI nº 0322988), item IV(a); Resposta ao Ofício nº 16/2026 (SEI nº 0322980), item 2.1.1.

6. ANPD. nota técnica nº 1/2026/CGF/SFI/ANPD, itens 5.3 e 6.1.5.

7. DISCORD INC. Pedido de Reconsideração (SEI nº 0322988), item IV(b), com remissão a anúncios públicos de 2024 e 2025 (discord.com/blog).

8. G1. "Comportamentos de violência no Discord: os alertas sobre conteúdos que adolescentes estão acessando livremente". Fantástico, 30/04/2023. Disponível em: https://g1.globo.com/fantastico/podcast/isso-e-fantastico/noticia/2023/04/30/comportamentos-de-violencia-no-discord-os-alertas-sobre-conteudos-que-adolescentes-estao-acessando-livremente.ghtml.

9. ANPD. nota técnica nº 1/2026/CGF/SFI/ANPD, item 5.8, citando SaferNet Brasil.

10. Lei nº 15.211/2025, art. 6º, III.

11. Lei nº 15.211/2025, art. 8º, IV.

12. MAZÚR, Ján; PATAKYOVÁ, Maria T. Regulatory Approaches to Facebook and Other Social Media Platforms: Towards Platforms Design Accountability. Masaryk University Journal of Law and Technology, 2020, p. 219.

13. FRAZÃO, Ana. Dever geral de cuidado das plataformas diante de crianças e adolescentes. Parecer encomendado pelo Instituto Alana/Criança e Consumo, 2021, § 10.

14. Conjur. "STF fixa tese sobre responsabilização de plataformas por conteúdo de usuários". 26 de junho de 2025. Disponível em: https://conjur.com.br/2025-jun-26/supremo-fixa-tese-sobre-responsabilizacao-de-plataformas-por-conteudo-de-usuarios/.

15. ANPD. nota técnica nº 1/2026/CGF/SFI/ANPD, item 5.7.

16. DISCORD INC. Resposta ao Ofício nº 16/2026 (SEI nº 0322980), item 3.3.

17. DISCORD INC. Resposta ao Ofício nº 16/2026 (SEI nº 0322980), itens 3.1, 3.2 e 3.4.

18. ANPD. nota técnica nº 1/2026/CGF/SFI/ANPD, itens 5.19 e 5.20.

19. DISCORD INC. Pedido de Reconsideração (SEI nº 0322988), item IV(c).