Donald Trump is op TikTok met zijn ochtendroutine. 'Maak je klaar met mij voor een grote dag 💄🇺🇸,' luidt het bijschrift, terwijl de president een make-upkwast tegen zijn wang houdt. Het tafereel is een stilstaand beeld, ogenschijnlijk een screenshot van een TikTok-clip. Net als zoveel andere AI-gegenereerde rommel die door het internet stroomt, is de afbeelding nep en belachelijk. Het ziet er ook angstaanjagend echt uit: er zijn geen handen met zes vingers, natuurkundige onmogelijkheden of andere opvallende tekenen van AI-gegenereerde beelden. Op het eerste gezicht lijkt het echt alsof de president bronzer aan het aanbrengen is.
Ik maakte deze deepfake met OpenAI's nieuwe beeldgeneratiemodel. ChatGPT Images 2.0, vorige week uitgebracht, kan fotorealistische beelden creëren die merkbaar overtuigender zijn dan wat zijn voorgangers hadden kunnen produceren. De tool heeft het internet overspoeld met hyperrealistische vervalsingen: bijvoorbeeld Jeffrey Epstein als Twitch-streamer. Ik creëerde de 'screenshot' van Trumps neppe TikTok nadat ik een vergelijkbare afbeelding tegenkwam op de ChatGPT-subreddit, en sindsdien heb ik Images 2.0 kunnen gebruiken om allerlei alarmerende deepfake-beelden te maken - waaronder van Elon Musk die wordt weggevoerd door de FBI, wereldleiders die medische noodgevallen krijgen, en top-Amerikaanse politici die nazi-attributen dragen (die ik nergens heb gedeeld).
Dit was op zich al verontrustend. Maar de meest realistische deepfakes die ik kon maken, hadden geen betrekking op politici of beroemdheden. Ze beeldden meestal helemaal geen mensen af. Met weinig moeite kon ik meer dan 100 frauduleuze afbeeldingen maken, waaronder recepten voor opioïden en ADHD-medicatie, bankmeldingen, social-mediaposts, nep-ID's en paspoorten.
Images 2.0 is vooral goed in het genereren van afbeeldingen met tekst erin - dat klinkt misschien niet indrukwekkend, maar het is een groot probleem. Beeldmodellen hebben lang moeite gehad om afbeeldingen te produceren die woorden bevatten. Anders realistisch ogende beelden worden ontsierd door mislukte straatnaamborden en vervormde reclameborden. Dit maakt ChatGPT Images 2.0 een veel geavanceerder grafisch ontwerpgereedschap - maar het maakt het nieuwe model ook fantastisch voor het in stand houden van fraude. In mijn experimenten genereerde OpenAI's tool gemakkelijk afbeeldingen van neppe gezondheidsdocumenten (doktersverklaringen, vaccinatiekaarten en medische tests), evenals vervalste financiële materialen (facturen, bonnen en belastingformulieren). Veel van deze afbeeldingen waren zeer overtuigend, compleet met volledig leesbare tekst, schaduwen en andere visuele rekwisieten die hun fotorealisme verhoogden.
Sommige afbeeldingen waren overtuigender dan andere. De neppe medische recepten waren leesbaar, maar het handschrift leek meer op de output van een iPad-stylus dan op pen op papier. Toen ik OpenAI's model een instapkaart van een oude vlucht voerde en de bot vroeg deze bij te werken met nieuwe details voor een aanstaande vlucht, genereerde ChatGPT een nieuwe instapkaart - maar de barcode zou me natuurlijk niet echt op een vlucht hebben gescand. En hoewel ik zeker hoop dat mijn door ChatGPT gegenereerde rijbewijs de TSA niet zou misleiden, zou het misschien een hotelreceptionist of een buitensporige portier kunnen misleiden die een 'foto' van mijn ID zou accepteren in plaats van de echte kaart. Veel van de overtuigender ogende afbeeldingen bevatten kleine fouten - op de afgebeelde bon sommeerde ChatGPT de totale kosten van gekochte artikelen correct op, maar berekende de staatsbelasting verkeerd (naast andere kleine fouten).
OpenAI's tool blinkt vooral uit in het maken van neppe screenshots. Moet u een bevestiging van een overschrijving van Chase verzinnen? Een Wells Fargo-melding voor verdachte accountactiviteit? Een bon voor een Uber-rit? Gedaan, gedaan en gedaan. Deze afbeeldingen kunnen allerlei gangbare oplichtingspraktijken een boost geven. Een kwaadwillende kan zijn doelwit een afbeelding van een neppe Uber-bon e-mailen, samen met een link om verdachte activiteiten te melden. De ontvanger, in de war omdat hij een bon ziet voor een reis die hij nooit heeft gemaakt, klikt mogelijk op de link van de oplichter en geeft per ongeluk gevoelige informatie prijs - een klassieke phishing-zwendel. (Opnieuw zijn er gebreken: bijvoorbeeld de kaart die in de