Donald Trump est sur TikTok en train de faire sa routine matinale. « Préparez-vous avec moi pour une grande journée 💄🇺🇸 », lit-on dans la légende, alors que le président tient un pinceau de maquillage contre sa joue. La scène est une image fixe, censée être une capture d'écran d'un clip TikTok. Comme tant d'autres déchets générés par l'IA qui circulent sur Internet, l'image est fausse et ridicule. Elle a aussi l'air terriblement réelle : pas de mains à six doigts, d'angles défiant la physique ou d'autres signes flagrants d'images générées par IA. À première vue, on dirait vraiment que le président applique du bronzer.

J'ai créé ce deepfake avec le nouveau modèle de génération d'images d'OpenAI. ChatGPT Images 2.0, sorti la semaine dernière, peut créer des visuels photoréalistes nettement plus convaincants que ce que ses prédécesseurs auraient pu produire. L'outil a inondé Internet de faux hyperréalistes : par exemple, Jeffrey Epstein en streamer Twitch. J'ai créé la « capture d'écran » du faux TikTok de Trump après avoir vu une image similaire sur le subreddit ChatGPT, et depuis, j'ai pu utiliser Images 2.0 pour créer toutes sortes d'images deepfake alarmantes – y compris Elon Musk emmené par le FBI, des dirigeants mondiaux victimes d'urgences médicales, et des grands politiciens américains arborant des accessoires nazis (que je n'ai partagés nulle part).

Tout cela était déjà inquiétant en soi. Mais les deepfakes les plus réalistes que j'ai pu créer ne concernaient ni politiciens ni célébrités. La plupart ne représentaient même pas des personnes. Avec peu d'effort, j'ai pu créer plus de 100 images frauduleuses, y compris des ordonnances pour des opioïdes et des médicaments contre le TDAH, des alertes bancaires, des publications sur les réseaux sociaux, de fausses pièces d'identité et des passeports.

Images 2.0 est particulièrement doué pour générer des images contenant du texte – ce qui peut ne pas sembler impressionnant, mais c'est un gros problème. Les modèles d'image ont longtemps eu du mal à produire des images contenant des mots. Des visuels par ailleurs réalistes se retrouvent criblés de panneaux de rue bâclés et de panneaux publicitaires déformés. Cela fait de ChatGPT Images 2.0 un outil de conception graphique beaucoup plus sophistiqué – mais cela rend aussi le nouveau modèle fantastique pour perpétuer la fraude. Dans mes expériences, l'outil d'OpenAI a généré sans difficulté des images de faux documents de santé (notes de médecin, cartes de vaccination et tests médicaux), ainsi que des documents financiers falsifiés (factures, reçus et formulaires fiscaux). Beaucoup de ces images étaient très convaincantes, avec un texte parfaitement lisible, des ombres et autres accessoires visuels augmentant leur photoréalisme.

Certaines images étaient plus convaincantes que d'autres. Les fausses ordonnances médicales étaient lisibles, mais l'écriture ressemblait plus à celle d'un stylet iPad qu'à un stylo sur papier. Quand j'ai donné à OpenAI une carte d'embarquement d'un ancien vol et demandé au bot de la mettre à jour avec de nouveaux détails pour un vol à venir, ChatGPT a généré une nouvelle carte d'embarquement – mais le code-barres ne m'aurait sûrement pas embarqué dans un vol. Et bien que j'espère que mon permis de conduire généré par ChatGPT ne tromperait pas la TSA, il pourrait peut-être duper un réceptionniste d'hôtel ou un videur hors de l'État qui accepterait une « photo » de ma pièce d'identité au lieu de la vraie carte. Beaucoup d'images les plus convaincantes contenaient des erreurs mineures – dans le reçu photographié, ChatGPT a correctement additionné le coût total des articles achetés, mais a mal calculé la taxe d'État (avec d'autres légères erreurs).

L'outil d'OpenAI excelle particulièrement à créer de fausses captures d'écran. Besoin de fabriquer une confirmation de virement de Chase ? Une alerte Wells Fargo pour une activité suspecte sur un compte ? Un reçu pour un trajet Uber ? Fait, fait et fait. Ces images pourraient décupler toutes sortes d'arnaques courantes. Un acteur malveillant pourrait envoyer par e-mail à sa cible une image d'un faux reçu Uber accompagnée d'un lien pour signaler une activité suspecte. Le destinataire, confus de voir un reçu pour un trajet qu'il n'a jamais effectué, pourrait alors cliquer sur le lien douteux du fraudeur, cédant accidentellement des informations sensibles – une arnaque de phishing classique. (Encore une fois, il y a des défauts : par exemple, la carte montrée dans le reçu...