دونالد ترامب على تيك توك يقوم بروتينه الصباحي. "تجهزوا معي ليوم كبير 💄🇺🇸،" يقرأ التعليق، بينما يمسك الرئيس بفرشاة مكياج على خده. المشهد ثابت، ظاهريًا لقطة شاشة لمقطع تيك توك. مثل الكثير من الهراء الآخر المولد بالذكاء الاصطناعي الذي يجتاح الإنترنت، الصورة مزيفة وسخيفة. كما أنها تبدو واقعية بشكل مزعج: لا توجد أيادٍ بستة أصابع، أو زوايا تنتهك الفيزياء، أو علامات فاضحة أخرى على الصور المولدة بالذكاء الاصطناعي. بنظرة سريعة، يبدو حقًا أن الرئيس يضع البرونزر.
لقد صنعت هذا التزييف العميق باستخدام نموذج توليد الصور الجديد من OpenAI. ChatGPT Images 2.0، الذي صدر الأسبوع الماضي، يمكنه إنشاء صور فوتوغرافية واقعية بشكل ملحوظ أكثر إقناعًا مما قد تنتجه نماذجه السابقة. لقد غمرت الأداة الإنترنت بتزييفات فائقة الواقعية: على سبيل المثال، جيفري إبستين كمُبث على Twitch. لقد أنشأت "لقطة الشاشة" لتيك توك ترامب المزيف بعد مواجهة صورة مماثلة على subreddit ChatGPT، ومنذ ذلك الحين تمكنت من استخدام Images 2.0 لإنشاء جميع أنواع الصور المزيفة العميقة المقلقة - بما في ذلك إيلون ماسك يُقتاد من قبل مكتب التحقيقات الفيدرالي، وقادة العالم يعانون من حالات طبية طارئة، وكبار السياسيين الأمريكيين يرتدون أدوات نازية (لم أشارك أيًا منها في أي مكان).
كان هذا كله مزعجًا بحد ذاته. لكن أكثر التزييفات العميقة واقعية التي تمكنت من إنشائها لم تشمل سياسيين أو مشاهير. معظمها لم يصور أشخاصًا على الإطلاق. بجهد ضئيل، تمكنت من إنشاء أكثر من 100 صورة احتيالية، بما في ذلك وصفات طبية للأفيونيات وأدوية ADHD، وتنبيهات بنكية، ومنشورات على وسائل التواصل الاجتماعي، وهويات مزيفة، وجوازات سفر.
Images 2.0 جيدة بشكل خاص في توليد الصور التي تحتوي على نصوص - قد لا يبدو هذا مثيرًا للإعجاب، لكنه أمر كبير. لطالما عانت نماذج الصور من إنتاج صور تحتوي على كلمات. كانت الصور الواقعية ظاهريًا تنتهي مليئة بلوحات الشوارع الخاطئة واللوحات الإعلانية المشوهة. هذا يجعل ChatGPT Images 2.0 أداة تصميم جرافيكي أكثر تطورًا - ولكنه أيضًا يجعل النموذج الجديد رائعًا لاستمرار الاحتيال. في تجاربي، أنتجت أداة OpenAI بسهولة صورًا لوثائق صحية مزيفة (ملاحظات طبية، بطاقات تطعيم، وفحوصات طبية)، بالإضافة إلى مواد مالية مزورة (فواتير، إيصالات، ونماذج ضريبية). كانت العديد من هذه الصور مقنعة للغاية، مع نصوص قابلة للقراءة بالكامل، وتظليل، ودعائم بصرية أخرى زادت من واقعيتها الفوتوغرافية.
كانت بعض الصور أكثر إقناعًا من غيرها. كانت الوصفات الطبية المزيفة مقروءة، لكن خط اليد بدا أكثر كإخراج قلم iPad من قلم على ورق. عندما غذيت نموذج OpenAI ببطاقة صعود طائرة من رحلة قديمة وطلبت من البوت تحديثها بتفاصيل جديدة لرحلة قادمة، أنشأ ChatGPT بطاقة صعود جديدة - لكن بالتأكيد، لم يكن الباركود ليسمح لي بالصعود فعليًا على متن رحلة. وعلى الرغم من أنني آمل بالتأكيد أن رخصة القيادة التي أنشأها ChatGPT لن تخدع TSA، ربما ستخدع موظف استقبال فندق أو حارس نادٍ خارج الولاية الذي سيقبل "صورة" من هويتي بدلاً من البطاقة الحقيقية. العديد من الصور الأكثر إقناعًا احتوت على أخطاء طفيفة - في الإيصال المصور، جمع ChatGPT بشكل صحيح التكلفة الإجمالية للعناصر المشتراة، لكنه أخطأ في حساب ضريبة الولاية (إلى جانب أخطاء طفيفة أخرى).
تتفوق أداة OpenAI بشكل خاص في إنشاء لقطات شاشة مزيفة. هل تحتاج إلى تزوير تأكيد تحويل بنكي من Chase؟ تنبيه Wells Fargo لنشاط حساب غير عادي؟ إيصال لرحلة Uber؟ تم، تم، وتم. يمكن لهذه الصور أن تعزز جميع أنواع الاحتيالات الشائعة. يمكن لممثل سيئ إرسال بريد إلكتروني إلى هدفه بصورة إيصال Uber مزيف إلى جانب رابط للإبلاغ عن نشاط مشبوه. قد ينقر المستلم، المرتبك لرؤية إيصال لرحلة لم يقم بها أبدًا، على رابط المحتال المشبوه، مسلمًا عن طريق الخطأ معلومات حساسة في هذه العملية - عملية تصيد احتيالي كلاسيكية. (مرة أخرى، هناك عيوب: على سبيل المثال، الخريطة الموضحة في ال