Donald Trump ist auf TikTok und macht seine Morgenroutine. „Macht euch mit mir fertig für einen großen Tag 💄🇺🇸“, lautet die Bildunterschrift, während der Präsident einen Make-up-Pinsel an seine Wange hält. Die Szene ist ein Standbild, angeblich ein Screenshot eines TikTok-Clips. Wie so viele andere KI-generierte Pampe, die durchs Internet schwappt, ist das Bild fake und lächerlich. Es sieht aber auch unheimlich echt aus: Es gibt keine Hände mit sechs Fingern, physikwidrige Winkel oder andere offensichtliche Anzeichen von KI-generierten Bildern. Auf den ersten Blick sieht es wirklich so aus, als würde der Präsident Bronzer auftragen.

Ich habe diese Deepfake mit OpenAIs neuem Bildgenerierungsmodell erstellt. ChatGPT Images 2.0, letzte Woche veröffentlicht, kann fotorealistische Bilder erzeugen, die deutlich überzeugender sind als das, was seine Vorgänger produziert haben. Das Tool hat das Internet mit hyperrealen Fakes überschwemmt: zum Beispiel Jeffrey Epstein als Twitch-Streamer. Ich erstellte den „Screenshot“ von Trumps Fake-TikTok, nachdem ich auf dem ChatGPT-Subreddit auf ein ähnliches Bild gestoßen war, und seitdem konnte ich Images 2.0 nutzen, um allerlei alarmierende Deepfake-Bilder zu erstellen – darunter Elon Musk, der vom FBI abgeführt wird, Weltpolitiker mit medizinischen Notfällen und führende US-Politiker in Nazi-Utensilien (von denen ich keines geteilt habe).

Das war alles schon beunruhigend genug. Aber die realistischsten Deepfakes, die ich erstellen konnte, betrafen keine Politiker oder Prominente. Sie zeigten meistens gar keine Menschen. Mit wenig Mühe konnte ich über 100 betrügerische Bilder erstellen, darunter Rezepte für Opioide und ADHS-Medikamente, Bankbenachrichtigungen, Social-Media-Posts, Falschausweise und Pässe.

Images 2.0 ist besonders gut darin, Bilder mit Text zu generieren – das klingt vielleicht nicht beeindruckend, ist aber eine große Sache. Bildmodelle hatten lange Probleme damit, Bilder mit Wörtern zu erzeugen. Ansonsten realistisch aussehende Bilder sind übersät mit verpfuschten Straßenschildern und verzerrten Werbetafeln. Das macht ChatGPT Images 2.0 zu einem viel ausgefeilteren Grafikdesign-Tool – aber es macht das neue Modell auch fantastisch für Betrug. In meinen Experimenten generierte OpenAIs Tool bereitwillig Bilder von gefälschten Gesundheitsdokumenten (Arztnotizen, Impfkarten und medizinische Tests) sowie gefälschte Finanzunterlagen (Rechnungen, Quittungen und Steuerformulare). Viele dieser Bilder waren hochgradig überzeugend, komplett mit vollständig lesbarem Text, Schattierungen und anderen visuellen Requisiten, die ihre Fotorealismus erhöhten.

Manche Bilder waren überzeugender als andere. Die gefälschten medizinischen Rezepte waren lesbar, aber die Handschrift sah eher nach der Ausgabe eines iPad-Stifts aus als nach Stift auf Papier. Als ich OpenAIs Modell eine Bordkarte von einem alten Flug gab und bat, sie mit neuen Details für einen bevorstehenden Flug zu aktualisieren, generierte ChatGPT eine neue Bordkarte – aber sicherlich hätte mich der Barcode nicht tatsächlich auf einen Flug einchecken können. Und obwohl ich hoffe, dass mein von ChatGPT generierter Führerschein die TSA nicht täuschen würde, könnte er vielleicht einen Hotelrezeptionisten oder einen Türsteher in einem anderen Bundesstaat hereinlegen, der ein „Foto“ meines Ausweises statt der echten Karte akzeptiert. Viele der überzeugender aussehenden Bilder enthielten kleinere Fehler – auf der abgebildeten Quittung summierte ChatGPT die Gesamtkosten der gekauften Artikel korrekt, berechnete aber die staatliche Steuer falsch (neben anderen kleinen Fehlern).

OpenAIs Tool zeichnet sich besonders durch die Erstellung gefälschter Screenshots aus. Brauchen Sie eine Bestätigung einer Überweisung von Chase? Eine Wells-Fargo-Benachrichtigung über verdächtige Kontoaktivitäten? Eine Quittung für eine Uber-Fahrt? Erledigt, erledigt und erledigt. Diese Bilder könnten alle Arten von alltäglichen Betrugsmaschen befeuern. Ein böswilliger Akteur könnte seinem Ziel ein Bild einer gefälschten Uber-Quittung zusammen mit einem Link zur Meldung verdächtiger Aktivitäten mailen. Der Empfänger, verwirrt über eine Quittung für eine Fahrt, die er nie unternommen hat, könnte dann auf den zwielichtigen Link des Betrügers klicken und dabei versehentlich sensible Daten preisgeben – ein klassischer Phishing-Betrug. (Auch hier gibt es Mängel: Zum Beispiel ist die auf der Quittung abgebildete Karte...