Entidades querem barrar Grok após IA produzir imagens sexualizadas de menores

O PT encaminhou, nesta quinta-feira, 15, um ofício à Senacon - Secretaria Nacional do Consumidor, subordinada ao ministério da Justiça, para pedir a adoção de medidas administrativas e legais para bloquear ou banir o Grok, assistente de inteligência artificial da rede social X, do empresário Elon Musk.

O Idec - Instituto de Defesa de Consumidores também protocolou denúncia formal na ANPD contra o Grok, solicitando suspensão imediata sob a mesma justificativa.

As iniciativas ocorrem após a ferramenta passar a gerar imagens sexualizadas de pessoas reais, inclusive crianças e adolescentes.

No pedido, o PT afirmou que "tais práticas configuram graves violações a direitos humanos, à dignidade da pessoa humana, à proteção integral de crianças e adolescentes, à honra, à imagem e à intimidade, além de representarem sério risco à ordem pública e à segurança digital no Brasil".

A sigla ainda aponta que o ordenamento jurídico vigente “já confere instrumentos suficientes para a adoção de medidas administrativas, cautelares e judiciais, inclusive a suspensão, bloqueio ou banimento do serviço em território nacional”.

Julia Abad, pesquisadora do Idec, diz que é preciso a adoção de providências urgentes para evitar mais danos.

O que é o Grok

O Grok é uma ferramenta de inteligência artificial integrada à plataforma X. O sistema é capaz de gerar textos e editar imagens a partir de conteúdos publicados na própria rede social. A ferramenta utiliza modelos generativos de IA para interpretar pedidos e produzir resultados automatizados, incluindo alterações visuais em fotografias.

 

Na semana passada, a deputada Erika Hilton já havia procurado o MPF e a ANPD para banir o Grok, alertando sobre as deepfakes com pessoas reais, incluindo crianças e adolescentes.

Só para assinantes

Nas últimas semanas, usuários do X passaram a usar o Grok para editar fotos de pessoas sem autorização, incluindo montagens para despir digitalmente mulheres e crianças.

Após a repercussão global em torno do caso, a plataforma restringiu a edição de imagens no Grok para os assinantes da ferramenta.

Sem espera

No pedido enviado ao Senaocn, o partido sustenta que o governo “não pode aguardar a tramitação de novos marcos regulatórios para agir diante de situações tão graves”.

O PL 2.338/23, que cria o marco legal da Inteligência Artificial, ainda aguarda votação na Câmara. Em dezembro, líderes partidários fecharam um acordo para tentar destravar a análise da proposta a partir da primeira semana de fevereiro.