Isto é real?

Foi lançado nos Estados Unidos um cartão de crédito para clientes conservadores. O Coign, segundo seu site, “capacita conservadores a usar seu poder de compra e combater a agenda liberal. Cada transação promove valores e causas conservadoras — sem custo para o titular do cartão — enquanto o cliente desfruta de recompensas ilimitadas de 1% em cashback”. Para lançar o cartão, o Coign produziu um comercial caprichado com um orçamento de US$ 320 mil usando atores desconhecidos e uma das maiores produtoras de comerciais dos EUA:

Vamos esclarecer algumas coisas. O cartão existe e seu lema é “spend right” — um trocadilho com as expressões “gaste direito” e “gaste à direita”. Mas nada do que você vê no comercial existe. Todas as pessoas, cenários e objetos foram criados com o aplicativo de inteligência artificial Veo 3. E o comercial custou apenas US$ 2 mil — cerca de R$ 11 mil.

A propaganda da empresa de vitaminas naturais Ritual segue outro caminho. Deixa claro que é uma produção de IA, para contrastar com o efeito “real” dos seus produtos para mulheres grávidas. Uma delas chega a dizer que tem um rabo. Mas o fato é que não dá mais para distinguir o real do produzido por inteligência artificial.

O espaguete de Will Smith

Matéria do Wall Street Journal mostrou que o pedido de identificação do que foi realizado com IA não está sendo seguido. Foi o caso da propaganda do cartão Coign. Plataformas como Meta, YouTube e TikTok prometeram estabelecer essa distinção, mas às vezes vídeos de IA passam por reais, e vídeos reais são carimbados como artificiais.

O Veo 3 também foi utilizado para uma propaganda em IA da Kalshi, plataforma de apostas sobre qualquer coisa — o preço do gás, resultados da NBA, ranking da Netflix, números da inflação, quem vai ganhar o Nobel da Paz. Se suas imagens não fossem tão absurdas, nada indicaria que a peça publicitária foi criada por IA.

É incrível pensar que há pouco mais de dois anos (abril de 2023) a qualidade das criações por IA podia ser medida por este grotesco vídeo pioneiro com o ator Will Smith comendo espaguete:

A dificuldade de distinguir o real

A preocupação imediata é a necessidade de identificar um vídeo ou uma imagem como irreal. O tema tende a ficar explosivo em épocas eleitorais. E, no estado de falência em que se encontra o sistema jurídico brasileiro, perigoso.

Redes sociais se propõem a identificar o que foi feito com IA. Mas, se o vídeo é anexado pelo usuário, fica a cargo deste identificar sua origem, o que é bastante improvável. Outra possibilidade de identificação é a criação de metadados no arquivo do vídeo. Os metadados ficam ocultos, e é difícil sua identificação por quem não é técnico no assunto. Além disso, se um vídeo criado por IA é colocado numa plataforma de rede social, os metadados costumam sumir no processo. 

O perigo do deepfake

O aperfeiçoamento dos vídeos artificiais agrava outro problema: os crimes que usam deepfakes. Reportagem da revista Wired dá um exemplo de como funciona:

“Imagine que você conheça alguém. Seja em um aplicativo de namoro, seja nas redes sociais. Vocês se encontram on-line por acaso e começam a conversar. A pessoa é genuína, e você se identifica com ela. Então você rapidamente transfere o assunto das mensagens diretas para uma plataforma como Telegram ou WhatsApp. Vocês trocam fotos e até fazem chamadas de vídeo. Começam a se sentir confortáveis. Então, de repente, a pessoa fala em dinheiro.

Ela precisa que você pague o custo do Wi-Fi dela, talvez. Ou ela está testando uma nova criptomoeda. Você deveria se aventurar logo! E então, só quando já é tarde demais, você percebe que a pessoa com quem estava falando não era real. A pessoa era um deepfake gerado por IA em tempo real, encobrindo o rosto de alguém que aplicava um golpe.”

O aperfeiçoamento das imagens geradas por IA estão tornando esse golpe uma epidemia, segundo a reportagem da Wired. David Maimon, especialista em fraudes da Universidade Estadual da Georgia, acompanha pequenos e grandes golpes dados com deepfakes. “Observamos um aumento drástico no volume de deepfakes, especialmente em comparação com 2023 e 2024″, declarou Maimon. “Eram talvez quatro ou cinco por mês. Agora, vemos centenas deles mensalmente, o que é impressionante.”

Como distinguir um vídeo fake?

Como saber se o vídeo é falso ou criado por IA? Se for uma produção profissional, como o comercial que vimos no início desta matéria, é impossível saber. Mas, se for um vídeo feito em um computador caseiro, é possível identificar alguns sinais da falsificação.

O jornal britânico The Guardian listou uma série de pistas que podem levar a um vídeo fake:

1. Coisas estranhas ao redor da boca: são o ponto fraco desses vídeos. Rugas desaparecem, o queixo fica meio borrado, e a sincronização com a voz não é perfeita.
2. Falas esquisitas: autores de deepfakes costumam escrever o que o personagem vai falar, o que torna sua fala artificial.
3. Relação entre o rosto e o corpo: a cabeça desproporcional e o corpo imóvel são pistas fortes.
4. Erros de continuidade: gravatas mudam de cor, cenários sofrem sutis modificações.
5. Multiplicação de dedos, mãos e membros: outro ponto fraco de produções toscas.
6. Palavras e números: programas de geração de vídeos por IA sentem dificuldade em reproduzir números e letras, que são criados sem muita lógica.

Mas está ficando cada vez mais difícil. Ben Colman, CEO da empresa Reality Defender, dedicada a combater deepfakes, postou um vídeo inteiro feito a partir de uma única foto sua:

O que fazer?

Um estudo da Reality Defender com 2 mil pessoas dos EUA e do Reino Unido mostrou vários vídeos e pediu que elas identificassem o que era real e o que era falso. O nível de acerto foi de apenas 0,1%. Chegamos àquele ponto em que algumas pessoas concluem que “a tecnologia vai acabar com o mundo”. Toda atividade humana vai gerar sua parcela de atividades ilegais.

Estamos numa nova etapa de evolução da mídia. Quem quiser fugir dela vai viver alienado e ultrapassado. O caminho mais sábio é aprender com essa evolução, estar preparado para seu uso correto e para os crimes que podem ser cometidos com a nova tecnologia. Os usuários em geral vão ter que aprender a distinguir melhor o que consomem. Quando virem um vídeo ou uma foto na internet, terão que prestar mais atenção na fonte daquelas imagens e na credibilidade de quem as está divulgando. Com a aproximação do período eleitoral, as empresas jornalísticas sérias deverão ser uma referência para quem não quer ser enganado.

O copo meio cheio

A era dos vídeos por IA vai nos trazer crimes eleitorais e falsidades, essa é a parte ruim. Mas muita coisa boa vem com essa conquista tecnológica. Pense no comercial do cartão de crédito para conservadores. O que era uma atividade caríssima restrita às grandes agências de propaganda agora está nas mãos de praticamente qualquer um. Você pode fazer propaganda de qualidade de seu produto em pé de igualdade com elas. É uma revolução.

Pense também na possibilidade de arrancar o cinema brasileiro das mãos do Estado com produções feitas em casa a serem distribuídas pela internet. A inteligência artificial está fazendo os preços de produção desabarem a cada dia. Tecnicamente, a distância entre produções ricas e pobres é cada vez menor.

Além do aspecto econômico, temos o nascimento de uma nova era das artes audiovisuais. A animação por IA está ligando diretamente a imaginação dos artistas com os espectadores, numa dimensão estética nova e sem limites. Se você ainda tem dúvidas sobre isso, deve dar uma olhada na série Love Death + Robots, na Netflix.

dagomirmarquezi.com
@dagomirmarquezi

Leia também “Um mergulho na dark web”