Realidade artificial

O que você vê existe? A realidade que parece tão clara na foto é uma ilusão criada por pixels rearranjados? O bom e velho conceito de ver para crer pode não estar valendo mais?

Reportagem do New York Times analisou o programa Magic Editor (do Google) e deu alguns exemplos de como ficou fácil manipular fotos e iludir quem as observa. Você tira a foto de um amigo, mas no enquadramento um ombro dele é cortado. O Magic Editor “cria” o ombro que ficou faltando. E vamos dizer que esse amigo tirou essa foto em frente a um monumento que estava lotado de gente. Você seleciona os estranhos com um dedo, e eles desaparecem. 

Ou seja, definitivamente você não pode mais acreditar em tudo o que enxerga. O Magic Editor inventou um ombro que não está na cena e sumiu com pessoas que você não conhece. O que foi registrado na foto não corresponde mais aos fatos. 

A conexão entre a inteligência artificial e a imagem capturada inaugura uma nova fase na capacidade humana de registrar imagens — o que se tornou possível desde 1826, quando a primeira foto foi feita pelo francês Joseph Nicéphore Niépce.

‘Uma foto deixou de ser um fato visual‘

Quase 200 anos depois da invenção de Niépce, a capacidade de transformar imagens deixou de ser um privilégio de profissionais. “O Pixel 8 é um ponto de virada”, escreveu Brian X. Chen para o New York Times. “É o primeiro celular convencional a desenvolver IA generativa, diretamente no processo de criação de fotos, sem nenhum custo extra, empurrando a fotografia em smartphones para uma era em que as pessoas terão cada vez mais que questionar se o que veem em fotos é real — incluindo fotos de entes queridos.” Como declarou Ren Ng, professor de ciência da computação na Universidade da Califórnia, “à medida que avançamos corajosamente em direção a esse futuro, uma foto deixou de ser um fato visual”.

O repórter do New York Times testou o Pixel 8 com seus cães Max e Mochi. Fez uma folha de papel sumir completamente de uma pedra onde Max estava sentado. Mas, ao tentar “construir” um focinho de Mochi (cortado do enquadramento), ele viu seu cão transformado pelo Pixel 8 num “infernal semideus com um par de cascos brotando de suas pernas”.

A sombra de Josef Stalin

Esses novos recursos ainda precisam de aperfeiçoamento. Mas sabemos que esses aperfeiçoamentos virão, mais cedo do que tarde. Quando se tornar impossível distinguir uma cena real de uma modificada, será necessário acertar uma espécie de código de ética da fotografia. Além de fake news, teremos que lidar com imagens fake. As empresas que produzem esses aplicativos como o do Pixel 8 talvez tenham que marcar as imagens modificadas com algo parecido com uma marca d’água.

Fotos sempre foram editadas, incrementadas ou simplesmente falsificadas. O ditador soviético Josef Stalin transformou a falsificação num instrumento de sua ditadura. Quando algum de seus seguidores caía em desgraça, Stalin mandava apagar sua imagem das fotos oficiais. Como não havia aplicativos nem iPhone naquela época, técnicos a serviço do Partido Comunista realizavam o serviço de apagar o infeliz no laboratório, já que muitas vezes ele tinha sumido na vida real também. Para disfarçar o sumiço, eles usavam pincel e tinta. Era um serviço meio grosseiro, mas quem iria contrariar o grande tirano?

Robert Conquest escreveu para o site Hoover Institution um artigo sobre o livro The Commissar Vanishes (“O Comissário Some”). Ele conta que essa prática de falsificar fotos começou com a própria URSS, ainda sob o domínio de Lenin, em 1917. Cita o caso da foto de uma loja com um cartaz em que estava escrito “Relógios: ouro e prata”, e a frase foi mudada para “Lute pelos seus direitos”.

Com Stalin, a arte da falsificação atingiu um novo estado de qualidade. Pessoas eram apagadas, e os artistas falsificavam o cenário por trás de seu sumiço. Com o fim do stalinismo, essa prática foi sendo abandonada. 

A fotografia chegou ao alcance de mais gente através de câmeras populares e baratas, lançadas na década de 1970. Essas câmeras, com seus filmes que precisavam ser revelados, mostravam a realidade. E muitas vezes eram ridicularizadas — mas eram reais. É conhecida a foto do futuro galã George Clooney adolescente, com óculos e uma franjinha mal cortada. O fato de que ele se tornaria um sex symbol no futuro apenas reforça a honestidade dessa velha foto. Ela é o que ele era, sem truques.

A digitalização da fotografia representou sua democratização. Fotografar deixou de ser uma atividade para fotógrafos profissionais. Laboratórios foram fechados. Não existe mais a necessidade de possuir uma câmera fotográfica. Hoje, todo celular tem sua câmera de alta definição — e todo mundo tem celular. A grande maioria das fotos é de má qualidade? Alguns selfies são ofensivos em sua estupidez? Pode ser, mas não culpe a tecnologia por isso.

Olha o passarinho

Em março de 2021, publicamos em Oeste uma reportagem sobre o deepfake. Começava com um vídeo do ator Tom Cruise levando um tombo e se levantando com seu infalível sorriso. Não era Tom Cruise, mas o imitador belga Chris Ume. Seu curta à base de deepfake foi tão realista que levantou algumas questões no mínimo polêmicas. Eu mesmo me “transformei” em Bruce Lee e John Travolta com a ajuda de um software chamado Reface. 

Há dois anos e meio era preciso entender minimamente esses conceitos e ir atrás de aplicativos que poucos conheciam. Agora você não precisa mais ir atrás de nada. Recursos de interferências nas imagens através de inteligência artificial estão sendo incorporados nas câmeras de celulares. 

“Na festa do segundo aniversário do meu filho, no fim de semana passado, tirei fotos de uma dúzia de crianças se contorcendo”, escreveu Geoffrey A. Fowler para o Washington Post. “Surpreendentemente, todos estão olhando diretamente para a câmera e sorrindo. Eu ‘consertei’ os rostos das crianças com um novo software do Google chamado Best Take. Integrada à câmera de seu smartphone Pixel 8 (…), a inteligência artificial ajuda a substituir carrancas, olhos fechados e até mesmo pessoas olhando na direção errada para produzir a foto que você gostaria de ter tirado. Isso é feito capturando rostos de outras fotos tiradas e selecionando as melhores expressões.”

A própria tecnologia pode fornecer um antídoto para essa falsificação. A revista Wired mostrou que, no seu mecanismo de busca por imagens, o Google está começando a fornecer um histórico da foto pesquisada

Ora, que perigo pode haver numa foto de uma festinha de segundo aniversário? O simples fato de que a cena das crianças sorridentes não existiu. Em cada uma das fotos tiradas havia uma criança distraída, outra olhando para o teto, outra entristecida por alguma razão. É assim que a diversidade humana se manifesta numa foto. Mas o Best Take escolheu os melhores sorrisos e os juntou numa única imagem.

Agora imagine um ditador fazendo um comício para uma multidão. Os que gostam de ditadores olharão para ele com atenção; outros, obrigados a estar ali para não perder o emprego ou coisa parecida, vão olhar para o chão, para o teto, vão fechar os olhos com cara contrariada ou esconder o rosto por alguns segundos. Mas uma câmera equipada com o Best Take pode fazer parecer que estão todos olhando fixamente para o ditador, sorrindo, ou pelo menos próximos de um sorriso capturado furtivamente.

Deepfakes pornôs

A própria tecnologia pode fornecer um antídoto para essa falsificação. A revista Wired mostrou que, no seu mecanismo de busca por imagens, o Google está começando a fornecer um histórico da foto pesquisada. O recurso está disponível apenas nos Estados Unidos por enquanto. Ele informa o que for possível da imagem — quando foi tirada, quando foi incorporada ao Google, de onde ela veio, por quais sites ela passou.

Essa iniciativa do Google pode evoluir para o mesmo princípio do sistema blockchain. Em resumo, cada passo daquela imagem permaneceria registrado no próprio arquivo. Tirada em tal lugar no dia tal, corrigida no dia tal, modificada no dia tal, distorcida por tal pessoa no dia tal, misturada com recursos de inteligência artificial no dia tal, e assim por diante. O recurso se tornaria um certificado de autenticidade (ou não) de uma foto.

Esse instrumento de registro poderia evitar, por exemplo, terríveis casos de deepfakes pornôs. A poetisa inglesa Helen Mort falou sobre essa desagradável experiência num minidocumentário chamado My Blonde GF. 

Um dia, um conhecido de Helen avisou que ela havia se transformado numa estrela pornô involuntária. Alguém tinha recortado seu rosto de várias fontes e o colocado num corpo mais bronzeado que o seu, mas com uma tatuagem semelhante. 

Sua “personagem” falsificada passa por situações humilhantes, típicas de um vídeo pornô. Ao denunciar o caso à polícia, Helen percebeu que o território do deepfake ainda está num limbo jurídico. Não havia muito a fazer. Se o vídeo tivesse um sistema de registro do tipo blockchain, o responsável poderia ser apanhado e indiciado.

Estamos vivendo um momento em que o que parece ser pode não ser, e vice-versa. No vídeo abaixo vemos uma declaração do ator Morgan Freeman em que ele mesmo garante que não é Morgan Freeman, apenas uma convincente mistura de imagem em deepfake, a voz de um imitador e nossa capacidade de ilusão. É o que a ilusão de Morgan Freeman chama de “realidade sintética”.

Uma era de fotos distorcidas e vídeos falsos pode assustar muita gente. Mas pode também ser um estímulo para as pessoas aprenderem a usar a tecnologia, em vez de ter medo dela.

Leia também “O Hamas não quer a paz”