O desenvolvimento da inteligência artificial tem promovido avanços significativos em diversos setores da vida social, com inegáveis benefícios práticos e econômicos. Não obstante, o uso dessas tecnologias também revela um elevado potencial lesivo, especialmente quando direcionado à violação de direitos fundamentais, como a imagem, a intimidade e a dignidade sexual, afetando de modo desproporcional grupos historicamente vulneráveis.

Nesse contexto, assumem especial relevo as ferramentas voltadas à criação de deepfakes, isto é, imagens, vídeos ou áudios gerados ou manipulados por sistemas de deep learning (sistemas de aprendizagem profunda), capazes de reproduzir com elevado grau de verossimilhança conteúdos aparentemente reais. Por meio de simples prompts¹, torna-se possível, sem qualquer consentimento do titular, substituir rostos e vozes ou mesmo despir virtualmente um indivíduo de maneira ultrarrealista.

Dentre essas ferramentas, merece destaque o Grok, chatbot gratuito de inteligência artificial generativa, desenvolvido pela X.AI Corp., de Elon Musk, e integrado à plataforma “X”. Como previsível, mulheres e crianças figuram como os principais alvos dessas tecnologias, sendo reiteradamente inseridas, por meio de comandos simples e cotidianos, em cenas de sexo ou pornografia que jamais protagonizaram, ou tendo seus corpos ficticiamente desnudos.

O potencial lesivo dos deepfakes de natureza sexual é expressivo, sobretudo diante da crescente capacidade computacional, da dificuldade - quando não impossibilidade - de identificação da adulteração, da ampla disseminação gratuita dessas ferramentas e da difusão massiva do conteúdo manipulado nas redes sociais.

No plano normativo, o ordenamento jurídico brasileiro tem buscado responder a esses desafios, notadamente por meio da recente majoração da pena prevista no art. 218-C do CP, que passou a cominar reclusão de 4 a 10 anos, e multa, quando o fato não constituir crime mais grave. Ainda assim, sob a ótica da dogmática penal, a tutela conferida mostra-se fragmentária e, em certos pontos, insuficiente.

No que se refere à proteção dos menores de idade, o ECA - Estatuto da Criança e do Adolescente, no art. 241-C, tipifica o ato de “simular a participação de criança ou adolescente em cena de sexo explícito ou pornográfica por meio de adulteração, montagem ou modificação de fotografia, vídeo ou qualquer outra forma de representação visual”, incorrendo nas mesmas penas quem “vende, expõe à venda, disponibiliza, distribui, publica ou divulga por qualquer meio, adquire, possui ou armazena o material produzido na forma do caput deste artigo”.

O art. 241-E, a seu turno, amplia o conceito de “cena de sexo explícito ou pornográfica”, abrangendo inclusive situações simuladas ou a exibição de órgãos genitais para fins primordialmente sexuais, que envolvam crianças e adolescentes, o que reforça a proteção integral.

Outro ponto de destaque é o fato de que a divulgação desse material, por qualquer meio, é igualmente apenada.

Por outro lado, o CP preceitua, no art. 216-B, constituir crime o fato de “produzir, fotografar, filmar ou registrar, por qualquer meio, conteúdo com cena de nudez ou ato sexual ou libidinoso de caráter íntimo e privado sem autorização dos participantes”², equiparando a conduta àquele que “realiza montagem em fotografia, vídeo, áudio ou qualquer outro registro com o fim de incluir pessoa em cena de nudez ou ato sexual ou libidinoso de caráter íntimo”.

A despeito de existir um tipo penal, a repressão da conduta está condicionada a “cena de nudez ou ato sexual ou libidinoso de caráter íntimo e privado”, compreendidos em sentido estrito.

Todavia, práticas como a “trend do biquíni” - como ficou conhecida a modificação de fotos de mulheres vestidas para, utilizando a ferramenta Grok, trajá-las com biquinis ou peças íntimas - escapam à tipificação penal.

É que a acepção do vocábulo “nudez” representa o “estado ou condição de nu”³, “ausência de roupas”⁴. Portanto, a despeito da gravidade da conduta e do potencial de vulnerar a imagem e credibilidade do indivíduo, as manipulações orquestradas da trend em questão não poderiam ser enquadradas nos dispositivos que tutelam a dignidade sexual. Afinal de contas, não se pode descurar que, ante o primado da legalidade estrita, as normas penais devem ser interpretadas de modo restritivo, vedando-se a analogia in malam partem.

Tais condutas poderiam, em tese, ser analisadas à luz do crime de violência psicológica contra a mulher, tipificado no art. 147-B do CP⁵, segundo o qual se apena o ato de “causar dano emocional à mulher que a prejudique e perturbe seu pleno desenvolvimento ou que vise a degradar ou a controlar suas ações, comportamentos, crenças e decisões, mediante ameaça, constrangimento, humilhação, manipulação, isolamento, chantagem, ridicularização, limitação do direito de ir e vir ou qualquer outro meio que cause prejuízo à sua saúde psicológica e autodeterminação”⁶.

No entanto, em decorrência da infeliz redação do legislador, para que a conduta se subsuma ao tipo, por se tratar de crime material, exige-se a geração de um dano emocional⁷ concreto⁸ - ainda que passageiro - e relevante que “a prejudique e perturbe seu pleno desenvolvimento ou que vise a degradar ou a controlar suas ações, comportamentos, crenças e decisões”, e que lhe “cause prejuízo à sua saúde psicológica e autodeterminação”. Trocando em miúdos, a simples perturbação de ânimo não é suficiente para caracterizá-lo⁹.

Na ausência dessa comprovação, resta, muitas vezes, apenas a subsunção aos crimes contra a honra, quando não houver a utilização da imagem manipulada para a prática de delitos mais gravosos, como extorsão ou estelionato, por exemplo.

Ressalte-se, ainda, que, mesmo nesses casos, pode haver impasses na identificação do autor do crime, isto é, daquele que efetuou o prompt, comprometendo a sua responsabilização penal.

De se notar que a legislação, contudo, não alcança a transmissão, disposição, exposição, troca ou venda, por terceiros, de imagens sabidamente manipuladas, possivelmente pela complexidade de se identificar o seu caráter fictício e/ou manipulado pela qualidade da imagem fornecida por essas ferramentas que desenvolvem um trabalho ultrarrealístico.

De igual modo, seja pela ausência nexo de causalidade¹⁰, seja pela complexidade técnica envolvida, não há como se atribuir qualquer responsabilidade criminal ao desenvolvedor e/ou criador da ferramenta, tampouco àquele que a disponibiliza.

O avanço tecnológico é contínuo e desejável, mas é mandatória, concomitantemente, a proteção da privacidade e da dignidade humana. Daí por que é necessário que o legislador penal volte os olhos para o tema com a brevidade e urgência que este demanda, sobretudo quando estão em jogo novas e sofisticadas formas de violência digital de gênero, que desafiam os limites tradicionais da dogmática penal.

_______

1 Instrução que se dá a um programa de inteligência artificial que afeta ou determina como aquilo que se especificou é gerado automaticamente.

2 Aqui, o que se tutela é a intimidade sexual.

3 “Nu”, por sua vez, significa “[s]em qualquer roupa, sem vestimenta; desnudo, despido” (Disponível aqui. Acesso em 2.2.2026).

4 Disponível aqui. Acesso em 2.2.2026.

5 Cuida-se de delito que tutela a honra e dignidade da mulher diante de condutas que possam vilipendiar o seu desenvolvimento pessoal, profissional ou psicológico, criando uma situação de insegurança permanente.

6 O legislador ainda incluiu, por meio da Lei nº 15.123, de 24 de abril de 2025, uma causa de aumento de pena, que vai ao encontro a esse movimento, majorando a pena nos casos em que “o crime é cometido mediante uso de inteligência artificial ou de qualquer outro recurso tecnológico que altere imagem ou som da vítima”.

7 O vocábulo escolhido pelo legislador foi bastante criticado pela doutrina, eis que há, claramente, uma confusão entre “dano psicológico” e “dano emocional”.

8 Este, no entanto, deverá ser, necessariamente, comprovado por meio de perícia.

9 Segundo Cezar Roberto Bitencourt, “a simples dor física ou crise nervosa, sem dano anatômico ou funcional, não configura lesão corporal e tampouco ‘dano psicológico’ ou mesmo dano emocional tipificado no art. 147-B”. Nesse ponto, salienta que “a irrelevância ou insignificância de determinada conduta deve ser aferida não apenas em relação à importância do bem juridicamente atingido, mas especialmente em relação ao grau de sua intensidade” – Tratado de Direito Penal, Parte especial, vol. 2, 24. ed., São Paulo: SaraivaJur, 2024, ePUB.

10 Comentando os critérios para aferir a imputação objetiva, Nilo Batista aponta que a causalidade exerce “função de mais elementar pressuposto e mais exterior limite da responsabilidade penal” – Concurso de Agentes, 3ª ed., Lumen Juris, Rio de Janeiro, 2005, p. 54.