O ‘deepfake’ chegou para ficar

O susto começou neste vídeo com o ator Tom Cruise:

Acontece que o Tom Cruise não é o Tom Cruise. Esse é um vídeo deepfake criado pelo belga Chris Ume. Ume colou digitalmente o rosto de Cruise no corpo de um imitador chamado Miles Fisher. Precisou de 20 mil imagens do ator e três meses de trabalho para produzir os três segmentos de 30 segundos cada um — com o falso Tom Cruise jogando golfe, fazendo mágica com uma moeda e levando um tombo. Foi considerado o primeiro deepfake “doméstico” de alta qualidade. Postado no aplicativo TikTok, rapidamente gerou 11 milhões de views.

O conceito de falsificar imagens existe desde as origens do cinema, no século 19. A era digital facilitou muito as coisas. Novas tecnologias fizeram o ator Tom Hanks contracenar com o presidente John Kennedy no filme Forrest Gump, em 1994. Em 2000, o ator Oliver Reed foi incluído em algumas poucas cenas do filme Gladiador mesmo depois de morto.

Em 2013, o ator Paul Walker morreu durante as filmagens do filme Velozes e Furiosos 7. Os produtores pediram ao professor Hao Li, especialista em processos digitais, que usasse a técnica do deepfake para fazer Walker “completar” sua participação. Li e sua equipe criaram mais de 260 cenas e ninguém soube dizer, mesmo nas maiores telas de cinema, quem era o Paul Walker real e quem era o fake.

O deepfake oferece essa possibilidade de realidade alternativa. E consegue concretizar premissas completamente absurdas. Por exemplo: e se o filme Esqueceram de Mim fosse interpretado por um Sylvester Stallone ainda criança?

E se Arnold Schwarzenegger interpretasse todos os personagens de O Senhor dos Anéis (2001)?

Hoje qualquer pessoa com um bom computador, software apropriado e tempo para isso pode fazer um vídeo deepfake de boa qualidade. Por enquanto, seu uso está bem limitado a um único “gênero”. A empresa Deeptrace fez um levantamento de 15 mil vídeos deepfake no ano passado e concluiu que 96% deles são eróticos. O rosto de estrelas como Emma Stone, Kaley Cuoco, Emilia Clarke, Emma Watson, Gal Gadot, Anne Hathaway, Angelina Jolie foi clonado e colado no corpo de atrizes de vídeos pornô.

Scarlett Johanssen deu uma entrevista ao Washington Post e se mostrou bem realista quanto a essa exploração: “Claramente, isso não me afeta tanto, porque as pessoas presumem que não sou realmente eu em um filme pornô, por mais humilhante que seja. […] O fato é que tentar se proteger da internet e de sua depravação é basicamente uma causa perdida, em grande parte”.

Um caso mais grave aconteceu com uma jornalista indiana, Rana Ayyub. Rana denunciou irregularidades no BJP, o partido no poder. Seu rosto foi encaixado num vídeo pornô e divulgado com seu número de celular e preços pelo “serviço”. Logo seu WhatsApp estava cheio de ameaças de morte e “consultas” de preço. Não havia muito que fazer a esse respeito. O estrago estava nas ruas.

O deepfake como o conhecemos hoje começou a aparecer a partir de 2017 com o uso da inteligência artificial. Está cada vez mais fácil e barato (ou mesmo gratuito) entrar nesse terreno. Já existem até aplicativos para celular. Naturalmente o resultado ainda é meio precário. Mas o processo, extremamente simples. Baixei o Reface e entreguei a ele uma única foto minha. Em menos de um minuto, eu estava lutando como Bruce Lee…

…e dançando como John Travolta:

O deepfake consegue romper a barreira do tempo, tornando imagens do passado, mesmo que distante, vivas como se fossem atuais. O vídeo abaixo mostra famosos retratos e estátuas “libertando-se” das pinturas e esculturas que os eternizaram e tornando-se pessoas “reais” de novo, numa inversão do processo criativo. O Homem Vitruviano (de Leonardo da Vinci), os retratos de William Shakespeare, Rembrandt e Van Gogh, a Mona Lisa saem dos quadros como pessoas de verdade. O resultado é perturbador. De repente o imperador Marco Aurélio (161-180) está vivo, na sua frente, olhando-o nos olhos e ameaçando um sorriso:

E, sim, o deepfake pode ser usado também para o crime. O caso mais famoso até agora aconteceu em 2019 e envolveu a manipulação de som. O CEO de uma empresa de energia britânica recebeu uma ligação com a voz de um associado de confiança pedindo a transferência de 220 mil libras para um banco húngaro. O CEO transferiu. Só desconfiou de golpe quando a mesma voz pediu mais dinheiro logo em seguida. Era um caso de deepfake sonoro, que fica ainda mais difícil de ser identificado.

E existe a possibilidade que está na cabeça de todos: o uso político dos deepfakes. Nada de mais sério aconteceu nesse sentido até agora. Mas vamos pensar numa hipótese para as eleições presidenciais de 2022. O candidato A e o candidato B estão virtualmente empatados. Dois dias antes da votação, o comitê do candidato B espalha nas redes sociais um deepfake do candidato A em que ele confessa que matou a própria mãe e que pretende roubar no cargo como nunca se roubou.

Isso é perigoso para a democracia? Muito. Mas que tipo de gente vai cair nessa conversa? Provavelmente quem já decidiu votar contra o candidato A. E a mesma internet que espalha um vídeo desse tipo também serve para espalhar os desmentidos e a reação furiosa de quem se sentiu enganado. O tiro pode sair pela culatra.

Olhos bem treinados podem identificar os bugs quase sempre presentes nos vídeos deepfake. Especialistas encontraram mudanças estranhas de cor e formato no final daquele vídeo do falso Tom Cruise com a moeda (eu não identifiquei nenhum erro). Empresas e militares de vários países já estão trabalhando em processos automáticos de identificação de deepfake. Um desses processos usa o princípio do blockchain — ele investiga cada passo que foi dado na confecção daquele vídeo. Qualquer manipulação em qualquer fase acende o alerta.

“A coisa mais perigosa e insidiosa sobre os deepfakes não é necessariamente se as pessoas vão acreditar neles ou não”, declarou o pesquisador da Google Andrew Gully. “É o fato de que eles invadem a compreensão de todos sobre o que é verdadeiro e o que não é.” Um método de rápida identificação de falsificações é tão urgente quanto uma vacina para uma pandemia.

Há quem queira ser enganado em nome de uma ideologia ou de uma vantagem prática. Essas pessoas já vivem uma falsidade profunda todos os dias. Mas quem não quer ser enganado, e eu acredito que seja a imensa maioria, precisa conhecer o que é o deepfake e suas possíveis consequências nefastas. Quanto mais compreender o fenômeno, mais protegido vai estar.

A consciência da realidade é a maior defesa contra esse tipo de crime. Alguém bem informado não serve de instrumento para forças poderosas sem nenhum escrúpulo. E desconfia do sorriso perfeito demais de Tom Cruise.

Dagomir Marquezi, nascido em São Paulo, é escritor, roteirista e jornalista. Autor dos livros Auika!, Alma Digital, História Aberta, 50 Pilotos — A Arte de Se Iniciar uma Série e Open Channel D: The Man from U.N.C.L.E. Affair. Prêmio Funarte de dramaturgia com a peça Intervalo. Ligado especialmente a temas relacionados com cultura pop, direitos dos animais e tecnologia

10 comentários