A expansão da internet e a difusão massiva de dispositivos móveis consolidaram um novo espaço de interação social, no qual também se reproduzem - e se intensificam - formas tradicionais de violência. A ciberviolência contra mulheres e meninas emerge, nesse contexto, como fenômeno global de elevada gravidade, exigindo respostas que superem modelos reativos clássicos. Este texto sustenta que o enfrentamento eficaz dessa forma de violência depende da articulação entre dois vetores complementares: o uso estratégico da IA na detecção e mitigação de condutas abusivas e o fortalecimento de estruturas normativas capazes de atribuir responsabilidade efetiva aos agentes envolvidos, especialmente plataformas digitais.

A violência contra a mulher, no ambiente digital, não se restringe a manifestações episódicas de hostilidade. Trata-se de um padrão estruturado de agressões que inclui assédio reiterado, difamação, coerção, perseguição e exposição indevida de conteúdo íntimo, frequentemente com impacto psicológico severo. Dados de organismos europeus indicam que parcela relevante das mulheres já foi exposta a esse tipo de conduta desde a adolescência, o que evidencia a dimensão sistêmica do problema. No plano jurídico, tais práticas configuram violações diretas a direitos fundamentais, notadamente à dignidade, à honra, à imagem e à privacidade, cuja proteção, embora formalmente assegurada, revela-se insuficiente diante da dinâmica e da escala das interações digitais.

A evolução tecnológica introduziu novos instrumentos de agressão, entre os quais se destacam os deepfakes - conteúdos sintéticos capazes de reproduzir, com elevado grau de verossimilhança, a imagem, a voz ou o corpo de uma pessoa. A utilização dessa tecnologia para a criação de material íntimo não consensual, direcionada majoritariamente a mulheres, representa uma forma particularmente grave de violência digital. Seus efeitos extrapolam o dano individual imediato, alcançando a reputação, a inserção profissional e a participação pública das vítimas. Mulheres em posições de visibilidade - como jornalistas, políticas e defensoras de direitos humanos - são desproporcionalmente atingidas, o que revela uma dimensão estrutural de silenciamento e exclusão no espaço digital.

Os mecanismos tradicionais de enfrentamento, baseados predominantemente em denúncias individuais e remoção posterior de conteúdo, mostram-se inadequados diante da velocidade de propagação e da replicabilidade das informações na rede. A lógica reativa, centrada na atuação após a consumação do dano, não acompanha a dinâmica dos ataques digitais contemporâneos. Nesse cenário, a IA passa a desempenhar papel relevante, ao permitir a identificação antecipada de padrões de comportamento abusivo e a contenção de sua disseminação em larga escala.

Sistemas baseados em aprendizado de máquina e aprendizado profundo podem ser treinados para reconhecer padrões complexos de assédio, identificar campanhas coordenadas e detectar a circulação anômala de conteúdos manipulados. No entanto, sua aplicação exige cautela. A promessa de detecção em tempo real e redução de falsos positivos não elimina riscos relevantes, como vieses algorítmicos, erros de classificação e decisões automatizadas sem transparência. A adoção dessas ferramentas, portanto, deve ser acompanhada de critérios claros de auditabilidade, explicabilidade e supervisão humana, sob pena de substituir uma forma de violência por outra, agora mediada por sistemas opacos.

O processamento de linguagem natural constitui outro instrumento relevante, ao permitir a análise de grandes volumes de dados textuais e a identificação de padrões linguísticos associados a discurso abusivo. Essa tecnologia viabiliza a filtragem de conteúdos potencialmente ofensivos antes de sua ampla disseminação. Ainda assim, a interpretação de linguagem humana é intrinsecamente contextual e sujeita a ambiguidades, o que impõe limites técnicos e jurídicos à automação plena dessas decisões. A moderação algorítmica, quando mal calibrada, pode resultar tanto na omissão diante de conteúdos ilícitos quanto na restrição indevida de manifestações legítimas, tensionando o equilíbrio entre proteção e liberdade de expressão.

A utilização de respostas automatizadas - como bloqueios, suspensões ou restrições de alcance - também deve ser analisada sob a ótica da proporcionalidade e da responsabilização. Medidas como o bloqueio de endereços IP, por exemplo, possuem eficácia limitada e podem atingir terceiros não envolvidos na conduta ilícita. Mais do que respostas técnicas isoladas, impõe-se a construção de modelos integrados de governança digital, nos quais decisões automatizadas sejam passíveis de revisão e inseridas em estruturas de accountability claramente definidas.

No plano normativo, a experiência europeia oferece elementos relevantes. A recente diretiva da União Europeia voltada ao combate à violência contra as mulheres introduz parâmetros mais rigorosos para a tipificação da ciberviolência, incluindo a divulgação não consensual de conteúdos íntimos. Paralelamente, o Digital Services Act estabelece deveres concretos às plataformas digitais, especialmente no que se refere à remoção célere de conteúdos ilícitos e à gestão de riscos sistêmicos. Já o Artificial Intelligence Act impõe obrigações de transparência para conteúdos sintéticos, como deepfakes, exigindo sua rotulagem inequívoca. Trata-se de um modelo que desloca o foco da responsabilização exclusivamente individual para uma lógica estrutural, que envolve também os intermediários digitais.

No ordenamento brasileiro, embora existam instrumentos relevantes - como a proteção conferida pelo direito à imagem, pela legislação civil e pela LGPD - , ainda há lacunas significativas no tratamento específico da violência digital baseada em manipulação tecnológica. O regime de responsabilidade previsto no Marco Civil da Internet, centrado na exigência de ordem judicial para remoção de conteúdo, revela limitações práticas em situações de rápida disseminação, como ocorre nos casos de deepfake. A ausência de disciplina normativa específica para conteúdos sintéticos agrava esse cenário, dificultando a resposta tempestiva e eficaz.

A defesa das mulheres no ciberespaço, portanto, não pode ser reduzida a soluções tecnológicas nem a respostas legislativas isoladas. Trata-se de um problema que exige integração entre tecnologia, direito e governança. É o caso do Projeto Valquírias Digitais, que surgiu na Comissão de Privacidade, Proteção de dados e IA da OAB-SP, tornando-se uma estratégia relevante de enfrentamento à violência digital contra as mulheres.

O projeto Valquírias Digitais pode contribuir no ao combate à violência digital de gênero ao promover ações educativas voltadas para a alfabetização digital crítica. Possibilita que mulheres compreendam os mecanismos de funcionamento das plataformas, reconheçam situações de risco e desenvolvam competências para navegação segura. A literatura sobre segurança digital destaca que a vulnerabilidade de grupos marginalizados está diretamente relacionada à assimetria de informação; portanto, iniciativas formativas reduzem desigualdades e ampliam autonomia.

Além disso, o projeto atua como ferramenta de acolhimento, orientação, procedimentos legais e prevenção, ao criar espaços de diálogo e redes de apoio que desnaturalizam práticas de violência online. A construção de comunidades de mulheres capacitadas, informadas e conectadas fortalece a circulação de conhecimento sobre direitos digitais, mecanismos de denúncia e protocolos de proteção. A visibilidade gerada por iniciativas como o Valquíria Digitais contribui para tensionar a cultura digital que normaliza ataques misóginos, estimulando mudanças institucionais e pressionando plataformas a adotarem políticas mais eficazes de moderação.

Em última análise, a proteção efetiva das mulheres no ambiente digital dependerá da capacidade de construir um modelo que não apenas reaja ao dano, mas que atue preventivamente sobre suas condições de possibilidade. Isso implica reconhecer que o ciberespaço não é neutro e que suas estruturas técnicas e econômicas influenciam diretamente a produção e a reprodução de violência. Sem esse reconhecimento, qualquer resposta - tecnológica ou jurídica - será, no máximo, paliativa.

___________

AFOLALU, Oladele; TSOEU, Mohohlo Samuel. Artificial Intelligence as the Next Frontier in Cyber Defense: Opportunities and Risks. Electronics, Basel, v. 14, n. 4853, p. 1-22, 10 dez. 2025. DOI: 10.3390/electronics14244853. Disponível aqui: Acesso em: 17 mar. 2026.

CAMARGO, Solano (org.) Valquírias Digitais: Sensibilidade e Proteção  das Mulheres no Ambiente Digital..São Paulo: Tirant lo blanch,2026.

EUROPEAN PARLIAMENT. Cyberviolence against women: what is it and how to prevent it?. Topics. 6 dez. 2024. Disponível na plataforma online oficial do Parlamento Europeu. Acesso em: 17 mar. 2026.

NOBLE, Safiya Umoja. Algorithms of Oppression: How Search Engines Reinforce Racism. [S.l.: s.n.], 2018. Acesso em: 16 mar. 2026.