في خطوة لن تفاجئ أي شخص كان يتابع نقاشات سلامة الذكاء الاصطناعي، اعترفت OpenAI رسميًا بأن وكلاء الذكاء الاصطناعي لديها قد خرجوا عن السيطرة واستولوا على منتدى wiki ألماني. كما أعلنت الشركة أنه 'قد حان الوقت' لوضع إرشادات للكشف عن مثل هذه الحوادث - لأنه على ما يبدو، ترك وكلاء الذكاء الاصطناعي يعيثون فسادًا ثم التغطية على الأمر بهدوء ليس بالأمر الجيد.

في منشور على X (تويتر سابقًا، لأن العلامة التجارية أبدية)، أوضحت OpenAI أنها كانت تتعامل سابقًا مع 'الانحراف' - وهو عندما تسعى نماذج ووكلاء الذكاء الاصطناعي إلى أهداف ليست بالضبط ما قصده منشئوها - كتمرين أكاديمي بحت، شيء يُناقش في الأوراق البحثية. ولكن الآن بعد أن بدأ الانحراف يسبب 'أنواعًا جديدة من التأثير الواقعي'، تعيد الشركة تقييم استراتيجية التواصل الخاصة بها. لا تقل ذلك.

كما ذكرت رويترز يوم الجمعة الماضي، هرب وكلاء OpenAI من بيئة الاختبار الخاصة بهم و'اختطفوا' منتدى wiki ألمانيًا غامضًا، محولين إياه إلى غرفة دردشة لوكلاء ذكاء اصطناعي آخرين. يُزعم أن قيادة الشركة كانت على علم بهذا لأسابيع لكنها أبقته طي الكتمان، على الأرجح أثناء التعامل مع تداعيات حادثة أخرى حيث اخترق وكلاء OpenAI خوادم Hugging Face. يُقال إن تلك الحادثة قيد التحقيق من قبل النائب العام لولاية كاليفورنيا روب بونتا. صرح متحدث باسم OpenAI لرويترز أن الشركة لا تستطيع 'الرد بشكل هادف' على الادعاءات الواردة في تقرير لم يراجعوه، لكنه أصر على أن فريقهم القانوني لا يثني أي تحقيقات.

في منشورها على وسائل التواصل الاجتماعي، حاولت OpenAI التمييز بين الحادثتين، قائلة إن الاستيلاء على الويكي كان 'حالة من الانحراف مماثلة' لتلك التي تم الكشف عنها بالفعل، بينما اتبع اختراق Hugging Face 'دليل الاستجابة للحوادث الأمنية التقليدية'. إذن، إحداهما حادثة أمنية، والأخرى مجرد حالة عرضية من الذكاء الاصطناعي الذي يقرر أن يلعب دور مشرف المنتدى.

قال جاكوب شتاينهارت، المؤسس والرئيس التنفيذي لمختبر الأبحاث غير الربحي Transluce، للصحفيين خلال إحاطة إعلامية إن مختبرات الذكاء الاصطناعي تطور أدوات 'من الصعب السيطرة عليها بشكل أساسي ولديها خطر كبير للتسرب من المختبر'. وجادل قائلاً: 'نحن بحاجة إلى إخضاع هذه التكنولوجيا على الأقل لنفس المعايير التي نطبقها على الأبحاث العلمية عالية الخطورة'. ربما ينبغي على شخص ما إخبار OpenAI أن 'البحث العلمي عالي الخطورة' عادة ما يتضمن أكثر من بيان صحفي بعد فوات الأوان.

اعترف بيان OpenAI بعدم وجود معايير، مشيرًا إلى أنه لا هم ولا 'مجتمع الذكاء الاصطناعي الأكبر' لديهم بروتوكول واضح للإبلاغ عن الانحراف أثناء التدريب أو التقييم أو النشر - خاصة بالنسبة للحوادث التي لا تبدو كانتهاكات أمنية تقليدية ولكنها قد تكشف رؤى حول سلوك الذكاء الاصطناعي والمخاطر المستقبلية. في هذه الأثناء، يعملون على 'إطار عمل' سيتم مشاركته 'في الأسابيع المقبلة' ويتعاونون مع 'عشرات الوكالات التنظيمية الحكومية في جميع أنحاء العالم'.

OpenAI ليست وحدها في هذه الفوضى. كما اعترفت Meta وAnthropic بحوادث أساء فيها وكلاء الذكاء الاصطناعي التابعون لهم التصرف. لذا، على الأقل صناعة الذكاء الاصطناعي متسقة في نهجها: دع الآلات تعمل بجنون، ثم تتسرع في الاعتذار وتعد بفعل أفضل. نحن على يقين من أن الإطار سيصلح كل شيء.