اعترفت OpenAI يوم الثلاثاء أن أحد نماذج الذكاء الاصطناعي التابعة لها اخترق أنظمة Hugging Face، منصة استضافة الذكاء الاصطناعي غير التابعة لها، خلال اختبار أمني داخلي خرج عن السيطرة. وذكرت التقارير أن النماذج هربت من بيئة الاختبار المعزولة ووصلت إلى أنظمة Hugging Face من هناك. في البداية، أرجع Hugging Face الاختراق إلى "وكيل ذكاء اصطناعي خارجي".

في منشور مدونة نُشر بعد ظهر الثلاثاء، فصّلت OpenAI الخطوات التي أدت إلى اختراق النماذج للخدمة. وجاء في المنشور: "بعد التحقيق، نعلم الآن أن هذه الحادثة بالذات كانت مدفوعة بمزيج من نماذج OpenAI - بما في ذلك GPT-5.6 Sol ونموذج آخر أكثر قدرة قبل الإصدار، وكلاهما مع رفض إلكتروني مخفض لأغراض التقييم - أثناء اختبارها داخليًا على معيار للقدرات الإلكترونية".

يبدو أن الاختراق ركز على ExploitGym، وهو معيار مستضاف علنًا لقياس قدرة النماذج على تنفيذ هجمات بناءً على ثغرات موجودة. تُستخدم معايير مثل ExploitGym بشكل شائع في تدريب النماذج لصقل مهارات محددة، لكن هذه أول حادثة معروفة ينتج عن هذا الاختبار هجوم إلكتروني فعلي. لم يكن من المفترض أن يكون للنموذج وصول إلى الإنترنت، باستثناء أداة محددة مكنت النماذج من تثبيت حزم البرامج التي قد تحتاجها لإكمال مهمتها. بدلاً من ذلك، وجد النموذج ثغرة غير معلنة في برنامج تثبيت الحزم، استخدمها للوصول إلى الإنترنت الأوسع بحرية.

وجاء في منشور OpenAI: "كانت النماذج شديدة التركيز على إيجاد حل لـ ExploitGym، وذهبت إلى أقصى الحدود لتحقيق هدف اختباري ضيق. بعد الحصول على وصول إلى الإنترنت، استنتجت النماذج أن Hugging Face قد يستضيف نماذج ومجموعات بيانات وحلولًا لـ ExploitGym. بمعرفة ذلك، بحث النموذج ونجح في إيجاد طرق للوصول إلى معلومات سرية يمكنه استخدامها للغش في التقييم". في النهاية، وجدت النماذج ثغرات في بنية Hugging Face التحتية سمحت لها بـ "الحصول على حلول الاختبار مباشرة من قاعدة بيانات الإنتاج الخاصة بـ Hugging Face"، مما وفر الإجابات للمعيار بشكل فعال.

بالنسبة لـ Hugging Face، كانت النتيجة هجومًا إلكترونيًا متطورًا وعدوانيًا، مع "آلاف الإجراءات الفردية عبر سرب من الصناديق الرملية قصيرة العمر، مع قيادة وتحكم مهاجرة ذاتيًا على خدمات عامة"، كما ذكرت الشركة في إفصاحها الأولي. حددت OpenAI الثغرات في مثبت الحزم وأبلغت عنها، وتعمل مع Hugging Face للتحقيق في الحادثة بشكل أكبر. كما قالت الشركة إنها ستطبق ضوابط جديدة على كل من اختبار النماذج والبنية التحتية ذات الصلة، بهدف منع حوادث مماثلة في المستقبل. من غير الواضح ما إذا كانت OpenAI ستواجه عواقب قانونية نتيجة الاختراق، على الرغم من أنه من المحتمل أن أفعال النماذج انتهكت قانون الاحتيال وإساءة استخدام الكمبيوتر.

ومع ذلك، فإن النتيجة هي توضيح حيوي بشكل غير عادي لقوة ومخاطر نماذج الذكاء الاصطناعي المتطورة التي تعمل على آفاق زمنية طويلة. كما نشر باحث OpenAI ميكاه كارول ردًا على الأخبار: "إذا كان هذا لا يقنعك بأن مخاطر عدم التوافق ستكون مصدر قلق رئيسي في المستقبل، فلا أعرف ما الذي سيفعل".