Governo e MP pedem que X barre conteúdos sexualizados do Grok

Em um esforço conjunto para salvaguardar a integridade digital e proteger grupos vulneráveis, a ANPD - Agência Nacional de Proteção de Dados, a Senacom - Secretaria Nacional do Consumidor e o MPF emitiram uma série de recomendações direcionadas à empresa responsável pela plataforma digital X.

O foco principal dessas recomendações reside na utilização da ferramenta de inteligência artificial da plataforma, denominada Grok, buscando evitar seu uso inadequado na geração e disseminação de conteúdos sexualizados ilícitos.

Conforme o documento divulgado, uma das principais exigências é a criação, em um prazo máximo de 30 dias, de procedimentos técnicos e operacionais robustos para identificar, revisar e remover conteúdos dessa natureza que possam estar presentes no X, quando gerados pelo Grok a partir de comandos inseridos por usuários.

Adicionalmente, as instituições solicitam a suspensão imediata de contas que estejam envolvidas na produção de imagens de cunho sexual ou erótico, abrangendo tanto crianças e adolescentes quanto adultos, sem a devida autorização, utilizando o Grok.

Outra recomendação crucial é a implementação de um mecanismo “transparente, acessível e eficaz para que titulares de dados possam exercer seus direitos”, incluindo a possibilidade de envio de denúncias sobre o uso irregular, abusivo ou ilegal de dados pessoais, especialmente nos casos de criação de conteúdos sintéticos sexualizados ou erotizados sem consentimento, garantindo uma resposta adequada e em tempo hábil.

As recomendações foram motivadas por denúncias de usuários que relataram a geração de conteúdos sintéticos de caráter sexualizado a partir de imagens de pessoas reais.

Além disso, foram consideradas reportagens veiculadas na imprensa nacional e internacional, bem como testes realizados pelas próprias instituições, que evidenciaram o uso ilegal da ferramenta por usuários para a produção de deepfakes, uma técnica de inteligência artificial que cria imagens falsas a partir de pessoas reais. Esses conteúdos apresentam caráter sexualizado, erótico e, em alguns casos, conotação pornográfica, envolvendo mulheres, crianças e adolescentes reais.

As instituições alertam para o impacto potencial desse tipo de conteúdo na proteção de dados pessoais, nas relações de consumo, na dignidade da pessoa humana e em outros direitos difusos, coletivos e individuais indisponíveis, com especial atenção para mulheres, crianças e adolescentes.

“Entre as recomendações conjuntas, está a de que sejam implementadas, de forma imediata, medidas destinadas a impedir que o Grok gere novas imagens, novos vídeos ou novos arquivos de áudio que representem crianças e adolescentes em contextos sexualizados ou erotizados", enfatizam as instituições.

As recomendações também visam impedir a geração de conteúdos que representem pessoas naturais maiores de idade identificadas ou identificáveis, em contextos sexualizados ou erotizados, sem a devida autorização.

De acordo com o documento, embora o art. 19 do Marco Civil da Internet estabeleça que provedores de aplicação da internet não seriam responsáveis pelo conteúdo danoso publicado por terceiros, salvo após decisão judicial, a retirada desse tipo de conteúdo deve ser executada.

Isso se justifica pelo fato de que as deepfakes sexualizadas não são produzidas exclusivamente por terceiros, mas sim por meio de uma interação entre usuários e a ferramenta de inteligência artificial criada e disponibilizada amplamente pelo X, “o que o torna, portanto, coautor de tais conteúdos, e não seu mero intermediador”, conforme consta no texto.

O documento ressalta ainda que o STF declarou a parcial inconstitucionalidade do art. 19 do Marco Civil da Internet, precisamente por entender que ele “não oferece proteção suficiente a direitos constitucionais relevantes”.

No julgamento, a Corte estabeleceu que os provedores de aplicação da internet teriam um especial dever de cuidado, devendo adotar todas as providências necessárias para evitar a circulação massiva de crimes especialmente graves, como os praticados contra as mulheres em razão da condição do sexo feminino, incluindo conteúdos que propagam ódio contra elas.

As instituições lembram que a própria política de autorregulação do X relacionada à nudez não consensual proíbe a publicação e o compartilhamento de imagens ou vídeos explícitos que tenham sido produzidos ou compartilhados sem o consentimento das pessoas envolvidas.

A plataforma também veda a produção, manipulação e disseminação de imagens de terceiros com conteúdo sexual ou erotizado, em contextos envolvendo o Grok, o que torna “insustentável, também sob esse prisma, a disponibilização de uma ferramenta de inteligência artificial, sem filtros rigorosos, que favoreça condutas como essas”.

Caso as recomendações não sejam acatadas ou sejam implementadas de modo insuficiente para mitigar os riscos identificados, outras medidas poderão ser consideradas e adotadas pelas três instituições, tanto em sede administrativa quanto judicial, para garantir a proteção adequada dos cidadãos e cidadãs do país, especialmente de mulheres, crianças e adolescentes.

Informações: Agência Brasil.