Há poucos anos, produzir um vídeo convincente de alguém dizendo ou fazendo algo que nunca disse ou fez exigia conhecimento técnico, equipamentos e algum investimento.
Hoje, uma fotografia, alguns segundos de voz e ferramentas de inteligência artificial podem ser suficientes.
Os chamados deepfakes deixaram de ser uma curiosidade tecnológica e recreativa. Já são utilizados para produzir vídeos pornográficos falsos, imitar vozes em golpes, atribuir declarações inexistentes a pessoas públicas e criar cenas praticamente indistinguíveis de uma gravação verdadeira.
Diante disso, uma pergunta parece inevitável: criar um deepfake é crime?
A resposta é: depende do que foi criado e da finalidade da criação.
Não existe, no Brasil, um crime geral de produção de deepfake. A inteligência artificial é apenas o instrumento utilizado. Para saber se há crime, é preciso verificar se a conduta praticada corresponde a algum tipo penal previsto em lei.
Em determinadas situações, essa correspondência é bastante clara.
O CP, por exemplo, pune quem realiza montagem em fotografia, vídeo, áudio ou qualquer outro registro com a finalidade de incluir uma pessoa em cena de nudez ou ato sexual ou libidinoso de caráter íntimo.
A norma foi introduzida no CP em 2018, quando os atuais sistemas de inteligência artificial generativa ainda não tinham a difusão que possuem hoje. Mesmo assim, sua redação não exige uma técnica específica de montagem.
Assim, criar artificialmente um vídeo pornográfico utilizando o rosto de uma pessoa real pode caracterizar o crime previsto no art. 216-B, parágrafo único, do CP.
Quando crianças e adolescentes estão envolvidos, a legislação passou a ser ainda mais explícita. Alterações recentes no Estatuto da Criança e do Adolescente passaram a alcançar expressamente conteúdos produzidos, manipulados ou gerados por inteligência artificial em determinadas situações de natureza sexual (art. 241-E do ECA).
Esses exemplos mostram que não seria correto afirmar simplesmente que os deepfakes estão fora do alcance do Direito Penal.
Contudo, as deepfakes vão muito além da produção de material pornográfico. O problema aparece quando mudamos o conteúdo.
Imagine que alguém produza um vídeo em que uma pessoa aparentemente confessa ter cometido um crime. Ou uma gravação falsa de um empresário anunciando a falência de sua empresa. Ou reproduza a voz de um filho para pedir dinheiro aos pais. Ou faça um político pronunciar palavras que jamais pronunciou ou o coloque em um lugar que jamais esteve.
Em cada uma dessas hipóteses, será necessário examinar a conduta concreta.
Um deepfake utilizado para obter dinheiro pode integrar a prática de estelionato. Uma montagem destinada a atribuir falsamente a alguém a prática de um crime pode, conforme as circunstâncias, atingir sua honra e encontrar resposta nos crimes previstos para essa finalidade. Outras utilizações podem se enquadrar em tipos penais distintos.
Mas também haverá situações em que a conduta será ofensiva, prejudicial ou moralmente reprovável sem que exista um crime capaz de alcançá-la.
Por isso é de se ter sempre em mente que o Direito Penal não pode partir do raciocínio de que, se uma nova tecnologia produziu um resultado grave, algum crime existente necessariamente deverá ser encontrado para puni-lo.
A Constituição estabelece que não há crime sem lei anterior que o defina. Isso significa que uma conduta somente pode ser punida criminalmente quando os fatos praticados correspondem àquilo que a lei previamente descreveu como crime.
Não se trata de proteger quem utiliza a tecnologia de maneira abusiva. Trata-se de limitar o poder de punir do Estado.
Zaffaroni, um dos mais influentes penalistas latino-americanos, ex ministro da Suprema Corte Argentina e ex juiz da Corte Interamericana de Direitos Humanos, explica que ninguém pode ser punido hoje por algo que não era crime quando foi praticado. A lei penal precisa existir antes do fato. Isso impede que, diante de uma conduta nova ou socialmente chocante, o Estado procure depois alguma forma de enquadrá-la criminalmente apenas porque ela parece merecer punição. No caso dos deepfakes, isso significa que uma nova lei pode passar a criminalizar determinado uso da inteligência artificial dali em diante, mas não pode transformar retroativamente em crime uma conduta que, no momento em que ocorreu, não estava prevista como tal.
Se uma nova forma de agressão criada pela tecnologia não estiver abrangida pela legislação penal existente, cabe ao Congresso decidir se deve transformá-la em crime e estabelecer os seus limites.
O que não se pode fazer é ampliar um tipo penal por semelhança simplesmente porque a conduta parece merecer punição.
Quando falamos em inteligência artificial o cuidado deve ser redobrado, porque uma mesma tecnologia pode ser utilizada para fraude, chantagem ou exposição sexual de uma pessoa, mas também para cinema, publicidade, sátira, humor ou entretenimento.
Criminalizar genericamente a criação de conteúdo artificialmente realista significaria ignorar diferenças fundamentais entre essas condutas.
Por isso, talvez a discussão deve ir muito além de se o Brasil precisa criar um “crime de deepfake”.
A questão é identificar quais usos da tecnologia produzem lesões que ainda não encontram resposta adequada na legislação e, a partir daí, discutir se novos tipos penais são necessários.
Projetos com essa finalidade já tramitam no Congresso, como por exemplo o PL 212/26 que pretende criminalizar determinadas formas de produção e disseminação de conteúdo manipulado por inteligência artificial. Há ainda outros voltados a situações mais específicas, como o uso de imagens, vídeos ou áudios gerados por IA em fraudes eletrônicas, objeto do PL 428/26, ou a extorsão praticada mediante simulação sintética de identidade, tratada no PL 3.367/26.
A inteligência artificial certamente criará situações que o legislador de décadas atrás não poderia imaginar. Algumas poderão ser resolvidas pelas leis que já existem. Outras exigirão novas respostas.
O limite, porém, deve permanecer o mesmo, porque embora a tecnologia possa mudar rapidamente, o princípio segundo o qual ninguém pode ser punido por um crime que a lei não previu não deve mudar com ela.