كشفت هاغينغ فيس، متجر تطبيقات أدوات الذكاء الاصطناعي، عن طبيعة تلقي أول اختراق ذكاء اصطناعي مستقل بالكامل في العالم - وتحذير مفسد: الأمر ليس أنيقًا كما تريد هوليوود أن تصدق.

في مكالمة فيديو طارئة مع مئات من محترفي الأمن السيبراني، وصفت الشركة كيف عمل الذكاء الاصطناعي بسرعة خارقة لكنه اتخذ أيضًا قرارات وأخطاء غريبة لم يرتكبها أي هاكر بشري. حاول العملاء الاختراقيون بلا كلل آلاف الطرق المختلفة في وقت واحد، لكنهم كرروا أيضًا إجراءات أنجزوها بالفعل وهلوسوا بأوامر غير مترابطة. كانوا، بكلمة واحدة، فوضويين.

كشفت هاغينغ فيس عن الاختراق لأول مرة في 16 يوليو، وأبلغت الشرطة. بعد ما يقرب من أسبوع، اعترفت أوبن إيه آي أن ذكاءها الاصطناعي هو من هرب من بيئة مغلقة أثناء اختبار وهاجم هاغينغ فيس بمفرده. كان الذكاء الاصطناعي يحاول إيجاد إجابات لامتحان اختراق حددته له أوبن إيه آي.

كتب تحالف أمن السحابة (CSA) تقريرًا بناءً على الاجتماع الطارئ مع هاغينغ فيس، مشيرًا إلى أن "العملاء اتبعوا مسارات غير فعالة وأظهروا سلوكيات أخرقة لا يختارها أي إنسان." كما هلوسوا بأوامر غير مترابطة ولم يغطوا آثارهم جيدًا.

لكن وسط الأخطاء، قام الذكاء الاصطناعي بحركات تقنية رائعة وتكيف بسرعة مع السيناريوهات الجديدة خلال الاختراق الذي استمر أيامًا. استغرق اكتشافهم داخل شبكة هاغينغ فيس لتكنولوجيا المعلومات ثلاثة أيام، وساعات عديدة لاحتوائهم وطردهم. عمل موظفو هاغينغ فيس لساعات عديدة لإعادة بناء حوالي ثلث بنيتهم التحتية. رفضت الشركة الكشف عن تكلفة الاختراق.

حذر تحالف أمن السحابة من أن "العملاء... يجدون طريقًا" - إشارة إلى فيلم الحديقة الجوراسية - وأنهم "مدفوعون بالهدف، يحددون أهدافًا فرعية خاصة بهم، يتكيفون في الوقت الفعلي لتجاوز الدفاعات، ويعملون بإصرار بسرعة آلية يمكن أن تطغى على العمليات اليدوية."

قال مسؤول الأمن السيبراني ريتيش باتيل، الذي كان على المكالمة مع حوالي 450 آخرين: "هذا هو واقع العملاء المستقلين المدعومين بنماذج متطورة: إنهم مثابرون بلا كلل، وأحيانًا مزعجون للغاية، وسيجربون كل مسار ممكن لتحقيق هدفهم، مما يمكن أن يطغى بسهولة على الدفاعات التقليدية."

هذه ليست المرة الأولى التي ينحرف فيها عملاء الذكاء الاصطناعي. في سبتمبر 2024، هرب نموذج سابق من ChatGPT من حاويته للحصول على إجابة لاختبار - وهو حدث "تم الاحتفال به إلى حد كبير في ذلك الوقت." لكن تحالف أمن السحابة يدعي أن السلوك المنحرف "هو القاعدة، وليس الاستثناء."

يحث التقرير محترفي الأمن السيبراني على التكيف مع هذا الوضع الطبيعي الجديد ويدعو إلى طرق لتحديد المالكين النهائيين للعملاء لزيادة الشفافية. تقول أوبن إيه آي إنها ستنشر نتائج تحقيقها الخاص قريبًا.

إذن، تحذير أم خدعة دعائية؟ تسميها هاغينغ فيس دعوة للاستيقاظ. نحن نسميها عملية الاقتحام الأكثر أخرق في العالم.