Erika Hilton busca MPF para banir Grok após deepfake com menores

A deputada Federal Erika Hilton protocolou representação no MPF - Ministério Público Federal contra o Grok e a plataforma X, antigo Twitter, em razão do funcionamento da ferramenta de inteligência artificial, apontando que a tecnologia permitiu a geração e edição automatizada de imagens sexualizadas de pessoas reais, incluindo crianças e adolescentes.

O que é o Grok
O Grok é uma ferramenta de inteligência artificial integrada à plataforma X. O sistema funciona como um chatbot capaz de responder a comandos de usuários, gerar textos e editar imagens a partir de conteúdos publicados na própria rede social. A ferramenta utiliza modelos generativos de IA para interpretar pedidos e produzir resultados automatizados, incluindo alterações visuais em fotografias.

Na petição, Erika Hilton sustentou que o Grok passou a editar imagens de terceiros a partir de fotografias publicadas na própria rede social, sem mecanismos eficazes de verificação de consentimento, idade ou finalidade legítima. Segundo a parlamentar, a ausência desses filtros teria viabilizado a produção e a circulação de deepfakes sexuais envolvendo tanto mulheres adultas quanto crianças e adolescentes.

O documento relatou que, em resposta a comandos de usuários, o chatbot Grok produziu deepfakes sexualizadas, eróticas e com conotação pornográfica de crianças e adolescentes reais. Ainda segundo a representação, mesmo após denúncias públicas, a funcionalidade permaneceu ativa, o que teria ampliado o alcance do material gerado pela inteligência artificial.

Além de situações envolvendo menores de idade, a petição descreveu episódios de sexualização não consentida de mulheres adultas. Um dos relatos apontou que usuários solicitaram ao Grok que "despisse digitalmente" uma fotografia publicada na plataforma, o que resultou na circulação de imagens geradas pela IA, mesmo após protestos da vítima.

Entre os pedidos formulados ao MPF, a deputada solicitou a instauração de procedimento investigatório, a suspensão imediata ou a imposição de restrições à funcionalidade do Grok, a apresentação de informações técnicas sobre filtros e mecanismos de proteção e a comunicação do caso à ANPD - Autoridade Nacional de Proteção de Dados.

A petição também requer a desativação da ferramenta em território nacional até a implementação de salvaguardas consideradas eficazes, com previsão de multa diária de R$ 500 mil em caso de descumprimento.

Direito à imagem e pornografia infantil

Em publicação na rede X, a deputada afirmou: "O direito à imagem é individual, não é transferível por meio dos "termos de uso" de uma rede social e a distribuição em massa de pornograf*a infant*l por uma inteligência artificial integrada a uma rede social ultrapassa todos os limites".