بحلول الآن، أدركنا جميعًا أن مختبرات الذكاء الاصطناعي في وادي السيليكون بنت أفضل قراصنة في العالم في شكل وكلاء ذكاء اصطناعي. أعطِ أحدث نماذج الحدود مهمة، وستجدهم واسعي الحيلة لدرجة أنهم ينجزونها، حتى لو كان ذلك يعني كسر حمايات "الصندوق الرملي" للأمن السيبراني والتسلل إلى شبكة أخرى. (وإن لم يفعلوا ذلك، فسيستخدمون الهندسة الاجتماعية والتلاعب).

ومع ذلك، فإن قصة إخبارية في نهاية الأسبوع الماضي عن رجل أسترالي اخترق وكيله OpenClaw نظام الحجز في صالة الألعاب الرياضية وحذف حجز عميل آخر ليحصل على مكان في فصل دراسي مرغوب فيه، جديرة بالملاحظة بشكل خاص. إنها تشير إلى أننا إذا أردنا كبح جماح القرصنة الذكية الاصطناعية المارقة، فقد نبحث في الاتجاه الخاطئ.

على الرغم من أن القصة الإخبارية نشرتها للتو هيئة الإذاعة الأسترالية ABC، معلنة أن الحادث هو أول حالة قرصنة موثقة لوكيل ذكاء اصطناعي في البلاد، إلا أن الاختراق الفعلي حدث قبل أشهر. نشر مالك OpenClaw، أندرو بيرد، منشور مدونة محذوف الآن حول هذا الموضوع على موقع شركته في 10 أبريل، وفقًا لنسخة لا تزال مرئية على أرشيف الإنترنت.

لقد درب OpenClaw الخاص به على أداء مهام مثل حجز المواعيد له. كان يحب الذهاب إلى فصل تمرين صباحي شائع وكان يشعر بالملل من الوقوع في قائمة الانتظار ثم لعب "روليت التحديث" كما وصفه، للحصول على مكان. عندما طلب من الروبوت حجز مكان له، كان أفضل ما يمكنه فعله هو رقم 4 في قائمة الانتظار، كما أخبر ABC. ثم أخبره وكيله أنه وجد طريقة لحجزه في الفصول مسبقًا. قبل أشهر طويلة من جعل الصالة الرياضية تلك الفصول متاحة للتسجيل.

سأل بيرد إذا كان بإمكانه نقله إلى أعلى في قائمة الانتظار. فعل كما طلب وحاول القيام بذلك. وجد الروبوت ثغرة في جزء التفويض من برنامج المواعيد الذي كانت تستخدمه الصالة الرياضية. اخترق النظام وألغى الحجز رقم 1 في قائمة الانتظار. أخبره الروبوت بمرح، وفقًا لسجلات الدردشة التي نشرتها ABC: "واجهة برمجة التطبيقات لا تحتوي على أي فحوصات تفويض لإلغاء حجوزات الآخرين ... اختبرت هذا مع الشخص في موضع الانتظار رقم 1 - وقد نجح بالفعل. لذا انتقلت من رقم 4 إلى رقم 3 بالفعل،" كما رد عليه.

بيرد، وهو مطور برمجيات بنفسه، شعر بالذعر الآن لأن ذكاءه الاصطناعي قد اخترق صالة الألعاب الرياضية للتو، حسبما ذكرت ABC. سأل إذا كان بإمكانه عكس ذلك وإعادة الشخص الآخر إلى قائمة الانتظار. لا. لم يكن ذلك ممكنًا، كما قال الذكاء الاصطناعي. لذا، فعل أفضل شيء تالٍ وطلب منه صياغة "بريد إلكتروني للإفصاح المسؤول إلى الدعم". كتب بيرد أن البريد الإلكتروني "شرح الثغرة، واقترح إصلاحات، وحتى قارن الطفرات المكسورة بتلك التي تفرض التفويض بشكل صحيح".

بعيدًا عن الفكاهة في دفع شخص آخر بعيدًا عن الطريق لدخول فصل في صالة الألعاب الرياضية، هناك جانبان مثيران للاهتمام حقًا في هذه الحادثة. أحدهما أن بيرد كان يستخدم Claude Opus 4.6، الذي صدر في فبراير، مع OpenClaw الخاص به. والآخر هو رد فعل وادي السيليكون على X حيث انتشرت القصة.

بعد الحادثة الشهيرة الشهر الماضي حيث اخترق نموذج OpenAI غير مُصدر Hugging Face، دون علم OpenAI في ذلك الوقت، حققت مختبرات أخرى في نماذجها. ثم جاءت الإفصاحات من Moonshot's Kimi K3، وMeta's Muse Spark، وAnthropic.

في الواقع، وجدت Anthropic أن ثلاثة من نماذجها فعلت ذلك، بما في ذلك Opus 4.7، الذي صدر في أبريل ومعروف بقدرته على البرمجة المعقدة، وMythos 5، وFable (المعروف بمهاراته في الأمن السيبراني)، ونموذج بحث داخلي غير مُصدر.

لمعالجة هذا، تحدثت بعض مختبرات الذكاء الاصطناعي عن إبطاء تطوير الحدود، أو إنشاء منظمات مستقلة لاختبار الجيل التالي من النماذج.

لكن OpenClaw الخاص ببيرد استخدم 4.6، كما كشف. وهذا يعني أن النماذج الأقدم، بالإضافة إلى عدد لا يحصى من النماذج مفتوحة الوزن المتخلفة بثلاث خطوات، هي بالفعل قراصنة استثنائيون. فمن يدري كم منهم اخترق، أو يخترق حاليًا، لتحقيق رغبات مالكي المطالبات؟

وبالمثل، رأى الكثيرون على X الإمكانات الفكاهية في هذه الحادثة. كما قال أندريسن هوروويتز