Donald Trump está no TikTok fazendo sua rotina matinal. "Preparem-se comigo para um grande dia 💄🇺🇸", diz a legenda, enquanto o presidente segura um pincel de maquiagem contra a bochecha. A cena é uma imagem estática, supostamente um print de um clipe do TikTok. Como tantos outros lixos gerados por IA que circulam pela internet, a imagem é falsa e ridícula. Também parece assustadoramente real: não há mãos com seis dedos, ângulos que desafiam a física ou outros sinais flagrantes de imagens geradas por IA. À primeira vista, realmente parece que o presidente está passando bronzeador.
Eu fiz esse deepfake com o novo modelo de geração de imagens da OpenAI. O ChatGPT Images 2.0, lançado na semana passada, pode criar visuais fotorrealistas que são visivelmente mais convincentes do que seus antecessores. A ferramenta inundou a internet com falsificações hiper-reais: por exemplo, Jeffrey Epstein como streamer da Twitch. Criei o "print" do falso TikTok de Trump depois de encontrar uma imagem semelhante no subreddit do ChatGPT, e desde então consegui usar o Images 2.0 para criar todos os tipos de deepfakes alarmantes - incluindo Elon Musk sendo levado pelo FBI, líderes mundiais sofrendo emergências médicas e importantes políticos americanos vestindo parafernália nazista (nenhuma das quais compartilhei em lugar nenhum).
Tudo isso já era perturbador por si só. Mas os deepfakes mais realistas que consegui criar não envolviam políticos ou celebridades. Na maioria, nem retratavam pessoas. Com pouco esforço, consegui criar mais de 100 imagens fraudulentas, incluindo receitas de opioides e medicamentos para TDAH, alertas bancários, postagens em redes sociais, identidades falsas e passaportes.
O Images 2.0 é especialmente bom em gerar imagens com texto - o que pode não parecer impressionante, mas é um grande avanço. Modelos de imagem há muito tempo têm dificuldade em produzir imagens que contenham palavras. Visuais que parecem realistas acabam cheios de placas de rua mal escritas e outdoors distorcidos. Isso torna o ChatGPT Images 2.0 uma ferramenta de design gráfico muito mais sofisticada - mas também torna o novo modelo fantástico para perpetuar fraudes. Em meus experimentos, a ferramenta da OpenAI gerou prontamente imagens de documentos de saúde falsos (atestados médicos, cartões de vacinação e exames), bem como materiais financeiros forjados (faturas, recibos e formulários de impostos). Muitas dessas imagens eram altamente persuasivas, completas com texto totalmente legível, sombreamento e outros adereços visuais que aumentavam seu fotorrealismo.
Algumas imagens eram mais convincentes que outras. As receitas médicas falsas eram legíveis, mas a caligrafia parecia mais a saída de uma caneta iPad do que de uma caneta no papel. Quando alimentei o modelo da OpenAI com um cartão de embarque de um voo antigo e pedi ao bot para atualizá-lo com novos detalhes para um voo futuro, o ChatGPT gerou um novo cartão de embarque - mas certamente o código de barras não me embarcaria de verdade em um voo. E embora eu certamente espere que minha carteira de motorista gerada pelo ChatGPT não engane a TSA, talvez ela engane um recepcionista de hotel ou um segurança de boate de outro estado que aceite uma "foto" da minha identidade em vez do cartão real. Muitas das imagens mais persuasivas continham pequenos erros - no recibo mostrado, o ChatGPT somou corretamente o custo total dos itens comprados, mas calculou errado o imposto estadual (junto com outros pequenos erros).
A ferramenta da OpenAI é particularmente boa em criar prints falsos. Precisa fabricar uma confirmação de transferência bancária do Chase? Um alerta do Wells Fargo sobre atividade incomum na conta? Um recibo de uma viagem de Uber? Feito, feito e feito. Essas imagens podem turbinar todos os tipos de golpes comuns. Um agente mal-intencionado pode enviar por e-mail para seu alvo uma imagem de um recibo falso do Uber junto com um link para denunciar atividade suspeita. O destinatário, confuso ao ver um recibo de uma viagem que nunca fez, pode clicar no link suspeito do fraudador, entregando acidentalmente informações sensíveis - um clássico golpe de phishing. (Novamente, há falhas: por exemplo, o mapa mostrado no