Migalhas de IA e Proteção de Dados

Deepfake: Uma ferramenta recente ou uma invenção do século XIX?

Este artigo aborda os princípios de deepfake enquanto prepara um questionamento sobre ser esta uma criação recente ou uma evolução de fake news dos anos de 1840.

16/2/2024

Introdução

A Inteligência Artificial (IA), sobre a qual temos comentado muito ultimamente, trouxe uma nova modalidade de notícia intencionalmente enganosa que são as deepfakes. Esse novo conceito de fake news é fruto da fabricação de notícias enganosas em formato audiovisual de modo hiper-realista por meio das chamadas IAs generativas. Lembro que as IAs generativas são um tipo de sistema computacional baseado em redes de aprendizado profundo (deep learning) capazes de gerar textos, imagens ou outras medias em resposta a solicitações escritas em linguagem comum. Entro em mais detalhes sobre essas redes generativas mais adiante.

Muitos devem ter assistido à um comercial de uma montadora de automóvel que foi veiculado em julho do ano passado em que a cantora Maria Rita contracena com sua mãe, Elis Regina (falecida em 1982, cuja imagem foi recriada por uma IA generativa), provocando um efeito visual que sugestionava uma participação de ambas no tempo presente1. Nesse comercial uma atriz dublê deu corpo à Elis Regina, e o rosto da Elis foi inserido depois utilizando ferramentas tipo as usadas em deepfakes. Não podemos chamar esse uso de IA de fake news, pois a intenção da propaganda não foi a de enganar o consumidor, embora este seja um bom exemplo do poder das IAs generativas, recriar o passado para modelar o presente. Deixo aqui uma dica bônus sobre um artigo do Migalhas no tema regulação da IA na propaganda2.

Antes de entrarmos na polêmica sobre se o conceito de deepfake nasceu ou não no século XIX, vamos usar uma abordagem atual e pouco legal para a construção deste artigo, vamos conhecer mais sobre o presente para julgarmos o passado. Sendo assim, vamos conhecer mais sobre deepfake.

Conhecendo mais sobre deepfake

Sobre a palavra: A palavra “deepfake” é uma amálgama, uma combinação dos termos “deep learning” e “fake news”. Já o conceito de deepfake remete às técnicas computacionais usadas para trocar o rosto de pessoas em vídeos, sincronizar movimentos labiais, elaborar expressões faciais e demais detalhes buscando resultados impressionantes e bem convincentes. Ou seja, criar um vídeo falso com uma voz falsa e que serve para confundir ou iludir o usuário.

O conceito não é novo. Uma das origens aponta para um usuário da plataforma Reddit (uma rede social), de codinome deepfakes, que usou ferramentas de IA e aprendizado de máquina para criar um algoritmo para treinar uma rede neural para mapear o rosto de uma pessoa no corpo de outra. Isso ocorreu em 2017.

Deepfake não pode ser confundida com shallowfake. Enquanto deepfake usa técnicas sofisticadas para criação de vídeos, sons e fotos, shallowfake utiliza técnicas refinadas de edição de sons e imagens. Ambas têm a intenção de fraudar, lograr, confundir o consumidor da notícia.

Tanto deepfake quanto shallowfake se tornaram grandes preocupações do STF nas eleições de 20223. Shallowfake foi usada para mapear a voz de uma apresentadora do Jornal Nacional divulgando uma falsa pesquisa de intenção de votos. Enquanto isso, deepfake era ainda um problema aparentemente alheio com exemplos na Ucrania sobre um suposto discurso de rendição do presidente da Ucrânia Volodymyr Zelensky frente às imposições do seu adversário na guerra, o presidente da Russia Vladimir Putin, e exemplos anteriores, como na eleição norte-americana de 2020 quando Barack Obama aparece num fake vídeo chamando Donald Trump de “um idiota completo”4.

Ferramentas tais como Reface, Zao, e FSGAN são usadas com intuito enganoso. O Reface é um aplicativo que usa IA para trocar rostos em imagens e memes famosos a partir de uma lista de exemplos oferecidos pelo aplicativo. Zao, um aplicativo muito popular em seu país de origem, a China, foi lançado em 2019 e também tem o objetivo de trocar rostos de pessoas em fotos e vídeos. Num outro espectro mais sofisticado temos o software Face Swapping GAN (FSGAN), aplicativo para a troca e reconstituição de rostos. Ao contrário dos anteriores, o FSGAN é independente do assunto e pode ser aplicado a pares de faces sem exigir treinamento nessas faces. O termo GAN no nome deste software refere-se ao que é chamado de rede adversária generativa, ou Gan do termo inglês generative artificial network. A Gan coloca dois algoritmos de inteligência artificial um contra o outro. O primeiro algoritmo, conhecido como gerador, alimenta ruído aleatório e o transforma numa imagem. Esta imagem sintética é então adicionada a um fluxo de milhares de imagens reais – de celebridades, digamos – que são alimentadas no segundo algoritmo, conhecido como discriminador. A princípio, as imagens sintéticas não se parecerão em nada com rostos. Mas repita o processo inúmeras vezes, com feedback sobre o desempenho, e o discriminador e o gerador aperfeiçoam a imagem. Com ciclos e feedback suficientes, o gerador começará a produzir rostos totalmente realistas de celebridades completamente inexistentes. Fazer um deepfake usando uma GAN não é tão simples assim devido ao trabalho de elaborar uma coleção de imagens usada para treinar essas redes neurais. Muitas vezes são usadas entre 5 e 10 mil imagens neste aprendizado.

A pessoa responsável por projetar essa estrutura de aprendizado de máquina foi Ian Goodfellow, que era aluno de doutoramento na Universidade de Montreal em 2014, época em que trabalhava nos primeiros GANs com colegas universitários e seu orientador, Yoshua Bengio5.

A preocupação com o uso destas técnicas computacionais para gerar fake news nestas eleições municipais já começou6. Ressalto, porém, que tudo tem seu outro lado e essas ferramentas de IA não necessariamente precisam ser usadas desta maneira. Estas IA generativas, a exemplo destas GANs, são usadas para outros fins bem mais nobres. A exemplo do artigo do Prof. Juliano Maranhão7, elenco algumas das possibilidades de uso inteligente, genuíno, puro e fidedigno das IAs. Foquemos nas campanhas eleitorais que usam várias mídias distintas, como TV, rádio, redes sociais e mídia impressa. O conteúdo a ser gerado pode ser criado, potencializado e melhorado com o uso destas IAs que geram imagens e vídeos sintéticos, podem ser usadas para gerar textos e discursos da campanha, corrigir estes textos, resumir os programas de governo, melhorar a resolução de imagens, construir textos com base em imagens, gerar texto a partir de vídeos, enfim, podem reduzir os custos comparativamente aos serviços que demandam produção humana e podem aumentar a produtividade das agências.

Enfim, os recursos estão aí, cabem às pessoas fazerem suas escolhas sobre como usar estas tecnologias.

Voltando ao questionamento original sobre o início das deepfake ter ocorrido no século XIX, vamos a um pouco de história.

O que talvez seja a primeira deepfake

Sabemos que a fotografia foi inventada, criada, no século XIX, mas essa criação não é reconhecida como sendo de um único inventor. Desde muito antes desta data a humanidade já conhecia técnicas para criar imagens a partir da luz natural, mas ninguém sabia como fixar as imagens criadas numa mídia, quer seja papel, metal ou o que depois conhecemos como filme fotográfico. No entanto, a partir de 1830 muitas pessoas descobriram métodos distintos de fixação de imagens8. Dentre estas pessoas destacamos Hyppolyte Bayard9 quem em 1839 criou um método fotográfico que consistia em mergulhar um papel numa emulsão de agentes químicos fotossensíveis, acomodar este papel numa câmara escura e expô-lo à luz natural através de um pequeno orifício aberto neste dispositivo. Bayard era mais que um funcionário público, era também um artista nato com gosto pela jardinagem e quem talvez tenha criado as primeiras selfies em que ele aparecia de olhos fechados devido à longa exposição à luz que seu método fotográfico demandava.

Pena que não é esta a história da fotografia que conhecemos. Já ouvimos que o pioneiro da fotografia foi Louis Jacques-Mandé Daguerre (1787 – 1851), homenageado pela invenção do processo fotográfico daguerreótipo pela Academia Francesa de Ciências e pela Académie des Beaux Arts em 183910. Daguerre era um pintor e gravador romântico, famoso na sua época como proprietário do Diorama, um teatro que nos anos de 1820 encantava o público parisiense com pintura teatral e efeitos de iluminação. No entanto sua obsessão pela fixação de uma imagem numa placa de metal continuou até 1830 quando criou o daguerreótipo que era uma imagem única fixada numa folha de cobre banhada a prata altamente polida. Embora fosse um sujeito muito conhecido em Paris, Daguerre comentou sobre seu invento à poucas pessoas influentes na sociedade francesa. Por outro lado, Bayard estava disposto a compartilhar sua invenção com todos e em junho 1939 ele foi o primeiro fotógrafo a exibir suas fotos ao público quando organizou uma exposição de seus trabalhos artísticos. Bayard tinha a intenção de mostrar seu processo fotográfico para a Academia Francesa de Ciências, mas é neste ponto que entra em cena um político ardiloso de nome Francois Arago.

François Jean Dominique Arago (1786 – 1853) foi um físico, astrônomo e político francês. Como político chegou a ser ministro por duas ocasiões e como físico suas descobertas da polarização cromática da luz e a polarização rotatória são muito conhecidas. Em 1811, trabalhando com Augustin Jean Fresnel, descobriu um novo processo de decompor a luz branca. No entanto, como presidente da Academia Francesa de Ciências, Arago tinha uma predileção pelos trabalhos de Daguerre. Em 1838, conhecendo seus trabalhos fotográficos, ele fechou um acordo com o governo francês para comprar os direitos sobre o processo de criação do daguerreótipo. Arago gostaria que a nova fotografia fosse um presente da França para o mundo. Paralelamente, Bayard chegou a mostrar seus trabalhos para Arago, mas ele protelou a apresentação de Bayard para a Academia até que fosse finalizado o acordo entre o governo francês e Daguerre, deixando assim Bayard “a ver navios”. O governo divulgou o processo de Daguerre ao mundo. O processo se espalhou como “fogo em palha”. Daguerre recebeu uma pensão vitalícia pelo seu invento e ficou conhecido pelo mundo todo como o criador do primeiro processo fotográfico.

No entanto, Bayard partiu para a revanche. Ele chegou a demonstrar o seu trabalho para a Academia Francesa poucos meses depois de Daguerre, mas o processo de divulgação do daguerreótipo estava mais avançado e a Academia não se interessou. Foi nessa desilusão que Bayard cometeu seu “suicídio”. Em 1840 Bayard publicou uma fotografia granulada de um cadáver parcialmente coberto encostado a uma parede. A imagem mostra um cadáver em aparente decomposição dado o escurecimento da pele do rosto e das mãos. O corpo e a face retratados são de Hippolyte Bayard, um dos primeiros inventores de processos fotográficos e agora é exposto como uma suposta vítima de afogamento. É no mínimo estranho o próprio autor publicar seu autorretrato já falecido. Atualmente, essa imagem da Bayard11 é tida como a primeira fake image e foi criada em protesto pela falta de reconhecimento que recebeu por suas contribuições para a invenção do meio fotográfico em papel.

Imaginem vocês vendo uma imagem publicada em 1840 de uma pessoa morta. Isso numa época em que a única mídia de divulgação existente era a mídia impressa. As transmissões radiofônicas só iniciariam no século seguinte. Assim, uma manipulação fraudulenta e enganosa desta única mídia existente deveria refletir algo genuíno, real, o que se encaixa plenamente no conceito de deepfake atualmente.

Vimos um pouco de história e um pouco de tecnologia para mostrar que, à despeito das inovações científicas, as velhas e sórdidas práticas continuam as mesmas. As tecnologias evoluem, mas a perfídia é a mesma.

__________

1. Comercial Volkswagen 70 Anos - Maria Rita e Elis Regina | CARROS | 2023 (Loometv). Disponível aqui. Último acesso em 12 de fevereiro de 2024.

2. Estamos prontos para regular o deepfake e a IA nas propagandas? Disponível no Migalhas. Último acesso em 12 de fevereiro de 2024.

3. Shallowfake e deepfake, os riscos para o brasileiro nas eleições. Disponível aqui. Último acesso em 12 de fevereiro de 2024.

4. What are deepfakes – and how can you spot them?. Disponível aqui. Último acesso em 12 de fevereiro de 2024.

5. The GANfather: The man who’s given machines the gift of imagination. Disponível aqui. Último acesso em 12 de fevereiro de 2024.

6. 'Deepfake eleitoral': PF faz operação contra suspeito de usar IA para difamar prefeito de Manaus. Disponível aqui. Último acesso em 12 de fevereiro de 2024.

7. Inteligência artificial não é a vilã das eleições. Disponível aqui. Último acesso em 12 de fevereiro de 2024.

8. History of photography. Disponível no aqui. Último acesso em 12 de fevereiro de 2024.

9. Hyppolyte Bayard. Disponível no aqui. Último acesso em 12 de fevereiro de 2024.

10. Daguerre (1787–1851) and the Invention of Photography. Disponível aqui. Último acesso em 12 de fevereiro de 2024.

11. Fake news: the drowning of Hippolyte Bayard. Disponível aqui. Último acesso em 12 de fevereiro de 2024.

Veja mais no portal
cadastre-se, comente, saiba mais

Coordenação

Cintia Rosa Pereira de Lima, professora de Direito Civil da Faculdade de Direito da USP Ribeirão Preto – FDRP. Doutora em Direito Civil pela Faculdade de Direito da USP com estágio na Ottawa University (Canadá) com bolsa CAPES - PDEE - Doutorado Sanduíche e livre-docente em Direito Civil Existencial e Patrimonial pela Faculdade de Direito de Ribeirão Preto (USP). Pó-doutora em Direito Civil na Università degli Studi di Camerino (Itália) com fomento FAPESP e CAPES. Líder e Coordenadora dos Grupos de Pesquisa "Tutela Jurídica dos Dados Pessoais dos Usuários da Internet" e "Observatório do Marco Civil da Internet", cadastrados no Diretório de Grupos de Pesquisa do CNPq e do Grupo de Pesquisa "Tech Law" do Instituto de Estudos Avançados (IEA/USP). Presidente do Instituto Avançado de Proteção de Dados – IAPD - www.iapd.org.br. Associada Titular do IBERC - Instituto Brasileiro de Responsabilidade Civil. Membro fundador do IBDCONT - Instituto Brasileiro de Direito Contratual. Advogada.

Cristina Godoy Bernardo de Oliveira, professora doutora da Faculdade de Direito de Ribeirão Preto – Universidade de São Paulo desde 2011. Academic Visitor da Faculty of Law of the University of Oxford (2015-2016). Pós-doutora pela Université Paris I Panthéon-Sorbonne (2014-2015). Doutora em Filosofia do Direito pela Faculdade de Direito da USP (2011). Graduada pela Faculdade de Direito da USP (2006). Líder do Grupo de Pesquisa Direito, Ética e Inteligência Artificial da USP – CNPq. Coordenadora do Grupo de Pesquisa "Tech Law" do Instituto de Estudos Avançados (IEA/USP). Membro fundador do Instituto Avançado de Proteção de Dados – IAPD.

Evandro Eduardo Seron Ruiz, professor Associado do Departamento de Computação e Matemática, FFCLRP - USP, onde é docente em dedicação exclusiva. Atua também como orientador no Programa de Pós-graduação em Computação Aplicada do DCM-USP. Bacharel em Ciências de Computação pela USP, mestre pela Faculdade de Engenharia Elétrica da UNICAMP, Ph.D. em Electronic Engineering pela University of Kent at Canterbury, Grã-Bretanha, professor lLivre-docente pela USP e pós-Doc pela Columbia University, NYC. Coordenador do Grupo de Pesquisa "Tech Law" do Instituto de Estudos Avançados (IEA/USP). Membro fundador do Instituto Avançado de Proteção de Dados – IAPD.

Nelson Rosenvald é advogado e parecerista. Professor do corpo permanente do Doutorado e Mestrado do IDP/DF. Pós-Doutor em Direito Civil na Università Roma Tre. Pós-Doutor em Direito Societário na Universidade de Coimbra. Visiting Academic na Oxford University. Professor Visitante na Universidade Carlos III, Madrid. Doutor e Mestre em Direito Civil pela Pontifícia Universidade Católica de São Paulo – PUC/SP. Presidente do Instituto Brasileiro de Estudos de Responsabilidade Civil – IBERC. Foi Procurador de Justiça do Ministério Público de Minas Gerais.

Newton De Lucca, professor Titular da Faculdade de Direito da USP. Desembargador Federal, presidente do Tribunal Regional Federal da 3ª Região (biênio 2012/2014). Membro da Academia Paulista de Direito. Membro da Academia Paulista de Letras Jurídicas. Membro da Academia Paulista dos Magistrados. Vice-presidente do Instituto Avançado de Proteção de Dados.