في عصر أصبحت فيه مولدات الصور بالذكاء الاصطناعي متطورة لدرجة أن تمييز الواقع عن الخوارزمية أصبح هواية بدوام كامل لنظريات المؤامرة، أعلنت OpenAI عن إجراءين جديدين للمساعدة في مكافحة المشكلة. التزمت الشركة بمعيار مفتوح يسمى C2PA، الذي يضيف إشارة واضحة في البيانات الوصفية تفيد بأن الصورة تم إنشاؤها بواسطة الذكاء الاصطناعي. كما تتعاون OpenAI مع Google لتضمين علامة مائية غير مرئية تسمى SynthID، والتي سيكون من الصعب اكتشافها، ولكن أيضًا من الصعب محوها إذا حاول الجهات الخبيثة تغطية آثارهم.
الحماية الجديدة تنطبق فقط على الصور المولدة بواسطة منتجات OpenAI، لذا لن تؤثر على فيض الصور القادمة من أدوات الذكاء الاصطناعي الأقل سمعة؛ لكنها يمكن أن تضمن أن OpenAI ليست جزءًا من المشكلة. كما تقدم OpenAI معاينة لأداة تحقق عامة ستتحقق من كلا الإشارتين، مما يسمح للمستخدمين باختبار ما إذا كانت الصورة مولدة بالذكاء الاصطناعي بسهولة. في البداية، ستقتصر الأداة على الصور المولدة بواسطة منتجات OpenAI؛ وتأمل الشركة في توسيعها لتشمل أدوات أخرى بمرور الوقت.
تأسست في عام 2021، تحالف محتوى المصدر والأصالة (C2PA) هو منظمة غير ربحية مكرسة للتخفيف من الآثار الضارة لصور الذكاء الاصطناعي على الخطاب العام. تم اعتماد معيار C2PA من قبل مجموعة من منتجات Google، لكن التبني لا يزال غير متسق عبر الصناعة. نظرًا لأن إشارة C2PA يمكن الوصول إليها بوضوح في البيانات الوصفية لكل ملف، يمكن التلاعب بها، وهي الأكثر فائدة بين المستخدمين الموثوقين.
SynthID هو جهد أحدث مصمم ليكون إجراءً أكثر قوة ضد العبث. تم تطويره بواسطة Google، تم تصميم العلامة المائية SynthID للاستمرار حتى عندما يحاول الجهات الخبيثة إزالتها، سواء من خلال لقطات الشاشة أو تغيير الحجم أو التلاعب الرقمي. النظامان مصممان ليكملا بعضهما البعض، حيث يعالج كل منهما نقاط ضعف الآخر. "يمكن أن تكون العلامات المائية أكثر متانة من خلال التحولات مثل لقطات الشاشة، بينما يمكن أن توفر البيانات الوصفية معلومات أكثر من العلامة المائية وحدها،" لاحظت OpenAI في إعلانها. "معًا، يجعلان المصدر أكثر مرونة مما لو كانت كل طبقة بمفردها."