Donald Trump è su TikTok mentre fa la sua routine mattutina. "Preparati con me per una grande giornata 💄🇺🇸," recita la didascalia, mentre il presidente tiene un pennello da trucco sulla guancia. La scena è un fermo immagine, apparentemente uno screenshot di un clip di TikTok. Come tanta altra robaccia generata dall'IA che scorre su internet, l'immagine è falsa e ridicola. Sembra anche inquietantemente reale: non ci sono mani con sei dita, angoli che sfidano la fisica o altri segni palesi di immagini generate dall'IA. A un primo sguardo, sembra davvero che il presidente si stia mettendo il bronzer.
Ho creato questo deepfake con il nuovo modello di generazione di immagini di OpenAI. ChatGPT Images 2.0, rilasciato la scorsa settimana, può creare immagini fotorealistiche notevolmente più convincenti di quanto i suoi predecessori avrebbero potuto produrre. Lo strumento ha inondato internet di falsi iperrealistici: per esempio, Jeffrey Epstein come streamer su Twitch. Ho creato lo "screenshot" del falso TikTok di Trump dopo aver incontrato un'immagine simile sul subreddit di ChatGPT, e da allora sono stato in grado di usare Images 2.0 per creare ogni tipo di immagini deepfake allarmanti - incluso Elon Musk portato via dall'FBI, leader mondiali in preda a emergenze mediche, e i migliori politici americani che indossano parafernalia nazista (nessuna delle quali ho condiviso da nessuna parte).
Tutto questo era già inquietante di per sé. Ma i deepfake più realistici che sono riuscito a creare non coinvolgevano politici o celebrità. Per lo più non raffiguravano affatto persone. Con poco sforzo, sono riuscito a creare più di 100 immagini fraudolente, tra cui prescrizioni per oppioidi e farmaci per l'ADHD, avvisi bancari, post sui social media, documenti d'identità falsi e passaporti.
Images 2.0 è particolarmente bravo a generare immagini con testo al loro interno - il che potrebbe non sembrare impressionante, ma è un grande passo avanti. I modelli di immagini hanno a lungo lottato per produrre immagini che contengono parole. Altrimenti, immagini dall'aspetto realistico finiscono piene di cartelli stradali sbagliati e cartelloni pubblicitari distorti. Questo rende ChatGPT Images 2.0 uno strumento di graphic design molto più sofisticato - ma rende anche il nuovo modello fantastico per perpetrare frodi. Nei miei esperimenti, lo strumento di OpenAI ha prontamente generato immagini di documenti sanitari falsi (note del medico, certificati di vaccinazione e test medici), così come materiali finanziari contraffatti (fatture, ricevute e moduli fiscali). Molte di queste immagini erano altamente persuasive, complete di testo perfettamente leggibile, ombreggiature e altri accessori visivi che aumentavano il loro fotorealismo.
Alcune immagini erano più convincenti di altre. Le ricette mediche false erano leggibili, ma la grafia sembrava più l'output di uno stilo per iPad che di una penna su carta. Quando ho fornito al modello di OpenAI una carta d'imbarco di un vecchio volo e ho chiesto al bot di aggiornarla con nuovi dettagli per un volo imminente, ChatGPT ha generato una nuova carta d'imbarco - ma sicuramente, il codice a barre non mi avrebbe effettivamente imbarcato su un volo. E anche se spero certamente che la mia patente di guida generata da ChatGPT non ingannerebbe la TSA, forse potrebbe ingannare un receptionist di hotel o un buttafuori fuori dallo stato che accetterebbe una "foto" della mia identità invece della carta reale. Molte delle immagini più persuasive contenevano piccoli errori - nella ricevuta raffigurata, ChatGPT ha correttamente sommato il costo totale degli articoli acquistati, ma ha calcolato male l'imposta statale (insieme ad altri piccoli errori).
Lo strumento di OpenAI eccelle particolarmente nel creare screenshot falsi. Hai bisogno di fabbricare una conferma di bonifico da Chase? Un avviso di Wells Fargo per attività insolita sul conto? Una ricevuta per un viaggio Uber? Fatto, fatto e fatto. Queste immagini potrebbero potenziare ogni tipo di truffa comune. Un malintenzionato potrebbe inviare via email al proprio bersaglio un'immagine di una ricevuta Uber falsa insieme a un link per segnalare attività sospetta. Il destinatario, confuso nel vedere una ricevuta per un viaggio mai fatto, potrebbe quindi cliccare sul link losco del truffatore, consegnando accidentalmente informazioni sensibili - una classica truffa di phishing. (Ancora, ci sono difetti: per esempio, la mappa raffigurata nel