AGU notifica Google e pede retirada de sites que criam nudes falsos com IA

A AGU solicitou que o Google remova resultados que direcionam a sites que utilizam IA e deepfake para gerar imagens íntimas falsas de pessoas reais, com base em riscos a direitos fundamentais e aumento da violência digital.

A medida foi formalizada nesta quarta-feira, 1º, por meio de notificação extrajudicial enviada pela Procuradoria Nacional da União de Defesa da Democracia, vinculada ao órgão.

Estudo aponta crescimento de sites de “nudificação”

A iniciativa partiu de solicitação da Secom-PR - Secretaria de Comunicação Social da Presidência da República, fundamentada em pesquisa da FGV-Rio - Fundação Getúlio Vargas do Rio de Janeiro. O estudo identificou o crescimento do uso de termos como “nudify” em buscas no Brasil desde meados de 2023.

Segundo o levantamento, as principais vítimas desse tipo de prática são mulheres, crianças e adolescentes, que têm suas imagens manipuladas sem consentimento para gerar conteúdo sexualizado falso.

AGU exige retirada e bloqueio de novos conteúdos

Na notificação, a AGU pediu ao Google a adoção de duas medidas no prazo de cinco dias. A primeira consiste na desindexação de sites de “nudificação”, com base em uma lista inicial com mais de 40 links identificados. A segunda envolve a implementação de filtros algorítmicos para impedir que novas páginas com esse tipo de conteúdo sejam indexadas.

O órgão destacou que, embora o buscador não hospede diretamente os conteúdos, a indexação facilita o acesso em larga escala a essas ferramentas, ampliando seu alcance e impacto.

Relatórios apontam ambiente misógino nas redes

A AGU também citou pesquisas nacionais e internacionais que indicam o crescimento de um ambiente misógino nas redes sociais, agravado pelo uso de IA para criação de deepfakes envolvendo mulheres reais. Entre os exemplos mencionados está relatório divulgado em 2025 pela Children’s Commissioner, organização pública independente ligada ao Departamento de Educação da Inglaterra.

Responsabilidade das plataformas e dever de cuidado

O documento ressaltou que, conforme entendimento do STF, plataformas digitais podem ser responsabilizadas por conteúdos de terceiros quando, após tomarem conhecimento de ilegalidades, não adotam providências para removê-los.

Além disso, a AGU alertou que as empresas possuem dever de cuidado, devendo agir preventivamente para evitar a circulação de conteúdos ilícitos graves, como imagens íntimas produzidas por IA sem autorização.

Normas legais e proteção de direitos

A argumentação também se baseou em dispositivos legais como o Marco Civil da Internet, o Estatuto Digital da Criança e do Adolescente, a LGPD - Lei Geral de Proteção de Dados, além dos Códigos Civil, Penal e de Defesa do Consumidor.

A AGU ainda destacou o dever constitucional de proteção integral à criança e ao adolescente, que impõe à sociedade, ao Estado e à família a responsabilidade de evitar situações de exploração, violência e exposição indevida.