Donald Trump este pe TikTok făcându-și rutina de dimineață. „Pregătiți-vă cu mine pentru o zi mare 💄🇺🇸,” scrie în descriere, în timp ce președintele ține o pensulă de machiaj pe obraz. Scena este o imagine statică, aparent o captură de ecran dintr-un clip TikTok. Ca și atâta altă mizerie generată de AI care curge prin internet, imaginea este falsă și ridicolă. De asemenea, arată înfricoșător de real: nu există mâini cu șase degete, unghiuri care sfidează fizica sau alte semne flagrante de imagini generate de AI. La o privire rapidă, chiar pare că președintele își pune bronzer.
Am făcut acest deepfake cu noul model de generare a imaginilor de la OpenAI. ChatGPT Images 2.0, lansat săptămâna trecută, poate crea imagini fotorealiste care sunt vizibil mai convingătoare decât ceea ce predecesorii său ar fi putut produce. Instrumentul a inundat internetul cu falsuri hiperrealiste: de exemplu, Jeffrey Epstein ca streamer pe Twitch. Am creat „captura de ecran” a falsului TikTok al lui Trump după ce am întâlnit o imagine similară pe subredditul ChatGPT, și de atunci am putut folosi Images 2.0 pentru a crea tot felul de imagini deepfake alarmante – inclusiv cu Elon Musk luat de FBI, lideri mondiali suferind urgențe medicale și politicieni americani de top purtând accesorii naziste (pe care nu le-am distribuit nicăieri).
Toate acestea au fost tulburătoare în sine. Dar cele mai realiste deepfake-uri pe care am reușit să le creez nu au implicat politicieni sau celebrități. În mare parte, nici măcar nu înfățișau oameni. Cu puțin efort, am reușit să creez peste 100 de imagini frauduloase, inclusiv rețete pentru opioide și medicamente pentru ADHD, alerte bancare, postări pe rețele sociale, acte de identitate false și pașapoarte.
Images 2.0 este deosebit de bun la generarea de imagini cu text în ele – ceea ce poate nu sună impresionant, dar este o mare realizare. Modelele de imagine s-au chinuit mult timp să producă imagini care conțin cuvinte. Vizualurile altfel realiste ajung pline de semne de circulație greșite și panouri publicitare distorsionate. Acest lucru face ca ChatGPT Images 2.0 să fie un instrument de design grafic mult mai sofisticat – dar face și noul model fantastic pentru perpetuarea fraudei. În experimentele mele, instrumentul OpenAI a generat cu ușurință imagini cu documente medicale false (note de la doctor, carduri de vaccinare și teste medicale), precum și materiale financiare falsificate (facturi, chitanțe și formulare fiscale). Multe dintre aceste imagini au fost extrem de convingătoare, complete cu text complet lizibil, umbrire și alte accesorii vizuale care le-au crescut fotorealismul.
Unele imagini au fost mai convingătoare decât altele. Rețetele medicale false erau lizibile, dar scrisul de mână arăta mai mult ca ieșirea unui stylus de iPad decât a unui pix pe hârtie. Când am alimentat modelul OpenAI cu o carte de îmbarcare de la un zbor vechi și am cerut botului să o actualizeze cu noi detalii pentru un zbor viitor, ChatGPT a generat o nouă carte de îmbarcare – dar, sigur, codul de bare nu m-ar fi scanat efectiv într-un zbor. Și, deși sper că permisul de conducere generat de ChatGPT nu ar păcăli TSA, poate că ar păcăli un recepționer de hotel sau un portar din alt stat care ar accepta o „fotografie” a actului meu de identitate în locul cardului real. Multe dintre imaginile mai convingătoare conțineau erori minore – în chitanța ilustrată, ChatGPT a însumat corect costul total al articolelor cumpărate, dar a calculat greșit taxa de stat (alături de alte mici greșeli).
Instrumentul OpenAI excelează în special la crearea de capturi de ecran false. Ai nevoie să falsifici confirmarea unui transfer bancar de la Chase? O alertă Wells Fargo pentru activitate neobișnuită în cont? O chitanță pentru o cursă Uber? Făcut, făcut și făcut. Aceste imagini ar putea potența tot felul de escrocherii comune. Un actor rău intenționat ar putea trimite pe email țintei sale o imagine a unei chitanțe false Uber alături de un link pentru a raporta activitatea suspectă. Destinatarul, confuz să vadă o chitanță pentru o călătorie pe care nu a făcut-o niciodată, ar putea da click pe linkul dubios al fraudatorului, predând din greșeală informații sensibile – o înșelătorie clasică de tip phishing. (Din nou, există defecte: de exemplu, harta ilustrată în