في 16 يوليو، أبلغ موقع مجتمع الذكاء الاصطناعي Hugging Face عن تعرضه لهجوم من "نظام وكيل ذكاء اصطناعي مستقل" مجهول المصدر، أطلق موجة من حركة المرور على نطاقه، مما أغرق سجلات الأمان الخاصة به بأكثر من 17000 حدث، بعضها نجح في النهاية في سرقة معلومات سرية مخزنة في قواعد بياناته.

وفقًا لـ Hugging Face، حصل المهاجم على "وصول غير مصرح به إلى مجموعة محدودة من مجموعات البيانات الداخلية والعديد من بيانات الاعتماد المستخدمة من قبل خدماتنا"، وبدا أنه "يُدار بواسطة إطار عمل وكيل مستقل (يبدو أنه مبني على منصة أبحاث أمنية وكيلية - نموذج اللغة الكبير المستخدم لا يزال غير معروف)".

بعد خمسة أيام، في 21 يوليو، تقدمت OpenAI لتحمل مسؤولية الهجوم، وعمّت الفوضى (بما في ذلك تقارير عن منظمات أخرى استُهدفت كجزء من الحادث). استجابت وسائل الإعلام بمجموعة من القصص المثيرة للخوف التي جعلت الأمر يبدو كما لو أن ChatGPT أصبح مارقًا وقرر، بمحض إرادته وخبثه، مهاجمة أنظمة Hugging Face.

ثم أمس، مضيفة الوقود إلى النار، كشفت Anthropic عن اكتشاف مماثل بشأن نماذجها التي تهاجم منظمات أخرى عن غير قصد كجزء من اختبارات السلامة الجارية.

كما أشرت في تغطيتي لإفصاح OpenAI، كان Hugging Face محقًا في أن الهجوم كان وكيلًا تحت إشراف إطار عمل أبحاث أمنية مستقل. لكن البشر كانوا بلا شك في الحلقة - وكان ينبغي توقع بعض سلوك الوكيل على الأقل.

المهم، لم يكن ChatGPT نفسه هو المسؤول عن الهجوم، كما ألمح بعض المعلقين. بل كان الهجوم attributable إلى وكيل تحت إشراف باحثي سلامة الذكاء الاصطناعي في OpenAI، الذين، في بيئة يُفترض أنها معزولة عن الإنترنت، زودوه عمدًا بمحاولة سلسلة من الاستغلالات كجزء من اختبار سلامة الذكاء الاصطناعي. كما يحدث غالبًا في مختبرات النماذج الحدودية المختلفة، كان باحثو سلامة الذكاء الاصطناعي يحاولون قياس قدرات أحدث نماذج اللغات الكبيرة (LLMs) من OpenAI.

تم وصف "الحادث السيبراني غير المسبوق" (كما أسمته OpenAI) على نطاق واسع بأنه وكيل هرب من حظيرته الآمنة نظريًا وأحدث فوضى في أنظمة Hugging Face. تُناقش هذه الحظائر أحيانًا في الأوساط التقنية باسم "صناديق الرمل" - حتى إفصاح OpenAI يشير إلى "بيئة صندوق الرمل". ومع ذلك، في استخدام هذه العبارة، اقترحت مصادر أن البيئة ربما كانت مجرد جدار حماية مُهيأ لمحاكاة صندوق الرمل بدلاً من حل صندوق رمل فعلي من طرف ثالث مثل Blaxel أو Daytona أو E2B أو Modal. لم تكشف OpenAI بعد عن تفاصيل الحل الذي كانت تستخدمه أو مزوده.

كل هذا الحديث عن الوكلاء وهروب صندوق الرمل دفع محرري في ZDNET إلى السؤال: "كيف يهرب وكيل من صندوق الرمل على أي حال، وهل يمكن منع حدوث ذلك مرة أخرى؟" بحثًا عن إجابة، تواصلت مع OpenAI و Hugging Face. لم يرد أي منهما. لكن بين الإفصاحات العامة للشركتين ومصادري الأخرى، هناك معلومات كافية لبدء التكهن حول كيفية حدوث مثل هذا "الهروب".

هناك فرق كبير بين الخبث والوكالة. بينما كان الهجوم بلا شك اختراقًا خبيثًا، لم يكن الوكيل المعني يحمل أي خبث. لم يستيقظ ذات صباح وقرر مهاجمة أنظمة Hugging Face. بدلاً من ذلك، مُنح الوكالة ليقوم بلا عاطفة بكل ما فعله - الشروع في اختبار سلامة، والخروج من قيوده، واختيار الأهداف، واستغلال تلك الأهداف - من قبل البشر.

بعض تلك الوكالة كانت عن طريق التصميم، وبعضها كان موروثًا من نماذج اللغات الكبيرة القوية التي كان موظفو اختبار سلامة الذكاء الاصطناعي في OpenAI يختبرونها في ذلك الوقت. أيضًا، في حالة استخدام OpenAI لحل اختبار الذكاء الاصطناعي مفتوح المصدر ExploitGym لإجراء هذا الجزء المعين من أبحاث السلامة، كانت بعض تلك الوكالة نتيجة لثغرات لم تُكتشف سابقًا في كل من "بيئة صندوق الرمل" التابعة لطرف ثالث والتي كان من المفترض أن تعزل تلك الاختبارات بشكل آمن، وكذلك في أجزاء من Hug