डोनाल्ड ट्रंप टिकटॉक पर अपनी सुबह की दिनचर्या कर रहे हैं। "एक बड़े दिन के लिए मेरे साथ तैयार हो जाइए 💄🇺🇸," कैप्शन पढ़ता है, जैसे राष्ट्रपति अपने गाल पर मेकअप ब्रश पकड़े हुए हैं। दृश्य एक स्थिर चित्र है, जो कथित तौर पर एक टिकटॉक क्लिप का स्क्रीनशॉट है। इंटरनेट पर बहने वाले अन्य AI-जनित कचरे की तरह, यह छवि नकली और हास्यास्पद है। यह भी भयावह रूप से वास्तविक दिखती है: छह उंगलियों वाले हाथ, भौतिकी-विरोधी कोण, या AI-जनित कल्पना के अन्य स्पष्ट संकेत नहीं हैं। त्वरित नज़र में, ऐसा लगता है कि राष्ट्रपति वास्तव में ब्रोंज़र लगा रहे हैं।
मैंने यह डीपफ़ेक OpenAI के नए छवि-निर्माण मॉडल से बनाया। ChatGPT Images 2.0, जो पिछले सप्ताह जारी हुआ, फोटोरियलिस्टिक दृश्य बना सकता है जो अपने पूर्ववर्तियों की तुलना में काफी अधिक विश्वसनीय हैं। इस उपकरण ने इंटरनेट को हाइपररियल नकली चीज़ों से भर दिया है: उदाहरण के लिए, जेफ्री एपस्टीन एक ट्विच स्ट्रीमर के रूप में। मैंने ChatGPT सबरेडिट पर एक समान छवि देखने के बाद ट्रंप का नकली टिकटॉक "स्क्रीनशॉट" बनाया, और तब से मैं Images 2.0 का उपयोग करके सभी प्रकार की चिंताजनक डीपफ़ेक छवियां बनाने में सक्षम हूं - जिसमें एलन मस्क को FBI द्वारा ले जाते हुए, विश्व नेताओं को चिकित्सा आपात स्थितियों का सामना करते हुए, और शीर्ष अमेरिकी राजनेताओं को नाजी सामान पहने हुए (जिनमें से कोई भी मैंने कहीं साझा नहीं किया) शामिल हैं।
यह सब अपने आप में परेशान करने वाला था। लेकिन सबसे यथार्थवादी डीपफ़ेक जो मैं बना सका, उनमें राजनेता या सेलिब्रिटी शामिल नहीं थे। वे ज्यादातर लोगों को बिल्कुल भी चित्रित नहीं करते थे। बहुत कम प्रयास से, मैं 100 से अधिक धोखाधड़ी वाली छवियां बनाने में सक्षम था, जिनमें ओपिओइड और ADHD दवाओं के नुस्खे, बैंक अलर्ट, सोशल-मीडिया पोस्ट, नकली ID और पासपोर्ट शामिल हैं।
Images 2.0 विशेष रूप से उन छवियों को उत्पन्न करने में अच्छा है जिनमें टेक्स्ट होता है - जो शायद प्रभावशाली न लगे, लेकिन यह एक बड़ी बात है। छवि मॉडल लंबे समय से ऐसे चित्र बनाने में संघर्ष करते रहे हैं जिनमें शब्द हों। अन्यथा यथार्थवादी दिखने वाले दृश्य बिगड़े हुए सड़क संकेतों और विकृत बिलबोर्ड से भर जाते हैं। यह ChatGPT Images 2.0 को एक अधिक परिष्कृत ग्राफिक-डिज़ाइन टूल बनाता है - लेकिन यह नए मॉडल को धोखाधड़ी को बढ़ावा देने के लिए शानदार भी बनाता है। अपने प्रयोगों में, OpenAI के उपकरण ने आसानी से नकली स्वास्थ्य दस्तावेज़ (डॉक्टर के नोट, टीकाकरण कार्ड, और चिकित्सा परीक्षण) के साथ-साथ जाली वित्तीय सामग्री (चालान, रसीदें, और कर फॉर्म) की छवियां उत्पन्न कीं। इनमें से कई छवियां अत्यधिक प्रेरक थीं, जिनमें पूरी तरह से पढ़ने योग्य टेक्स्ट, छायांकन, और अन्य दृश्य सहारे थे जो उनके फोटोरियलिज़्म को बढ़ाते थे।
कुछ छवियां दूसरों की तुलना में अधिक विश्वसनीय थीं। नकली चिकित्सा नुस्खे पढ़ने योग्य थे, लेकिन लिखावट कागज पर कलम की तुलना में iPad स्टाइलस के आउटपुट की तरह दिखती थी। जब मैंने OpenAI के मॉडल को एक पुरानी उड़ान का बोर्डिंग पास खिलाया और बॉट से आगामी उड़ान के लिए नए विवरणों के साथ इसे अपडेट करने के लिए कहा, तो ChatGPT ने एक नया बोर्डिंग पास उत्पन्न किया - लेकिन निश्चित रूप से, बार कोड वास्तव में मुझे उड़ान पर स्कैन नहीं करता। और हालांकि मुझे उम्मीद है कि मेरा ChatGPT-जनित ड्राइवर का लाइसेंस TSA को मूर्ख नहीं बनाएगा, शायद यह एक होटल रिसेप्शनिस्ट या राज्य के बाहर के बाउंसर को धोखा दे सकता है जो वास्तविक कार्ड के बजाय मेरी ID की "फोटो" स्वीकार करेगा। अधिक प्रेरक दिखने वाली कई छवियों में मामूली त्रुटियां थीं - चित्रित रसीद में, ChatGPT ने खरीदी गई वस्तुओं की कुल लागत को सही ढंग से जोड़ा, लेकिन राज्य कर की गणना गलत की (अन्य मामूली गलतियों के साथ)।
OpenAI का उपकरण विशेष रूप से नकली स्क्रीनशॉट बनाने में उत्कृष्ट है। क्या आपको चेज़ से वायर ट्रांसफर की पुष्टि गढ़ने की आवश्यकता है? खाते में असामान्य गतिविधि के लिए वेल्स फ़ार्गो अलर्ट? उबर राइड की रसीद? हो गया, हो गया, और हो गया। ये छवियां सभी प्रकार के सामान्य घोटालों को बढ़ावा दे सकती हैं। एक बुरा अभिनेता अपने लक्ष्य को एक नकली उबर रसीद की छवि के साथ संदिग्ध गतिविधि की रिपोर्ट करने के लिए एक लिंक के साथ ईमेल कर सकता है। प्राप्तकर्ता, एक यात्रा के लिए रसीद देखकर भ्रमित हो सकता है जो उन्होंने कभी नहीं ली, फिर धोखेबाज के संदिग्ध लिंक पर क्लिक कर सकता है, ऐसा करने में गलती से संवेदनशील जानकारी सौंप सकता है - एक क्लासिक फ़िशिंग घोटाला। (फिर से, खामियां हैं: उदाहरण के लिए, चित्रित मानचित्र में...