أنثروبيك على وشك إجراء محادثة جادة جدًا مع مراقب المال العالمي حول نموذج الذكاء الاصطناعي الخاص بها Claude Mythos، الذي جعل الخبراء يمسكون بأملاحهم الإغماء بسبب قدرته على تدمير الدفاعات السيبرانية.
الشركة الناشئة الأمريكية ستُحضر لمجلس الاستقرار المالي (FSB)، الذي يرأسه محافظ بنك إنجلترا أندرو بيلي، حول تداعيات Mythos. لأنه ما الذي يمكن أن يحدث بشكل خاطئ عندما تطلق ذكاءً اصطناعيًا جيدًا جدًا في إيجاد الثغرات في أنظمة تكنولوجيا المعلومات إلى العالم؟
أنثروبيك رفضت بحكمة إطلاق Mythos للجمهور، بعد أن أعلنت أن النموذج لديه قدرات متقدمة في كشف الثغرات غير المعروفة سابقًا في أنظمة تكنولوجيا المعلومات - ثغرات يحب القراصنة استغلالها. بدلاً من ذلك، منحت الشركة الوصول لمجموعة مختارة من شركات التكنولوجيا والبنوك، بما في ذلك Apple وJP Morgan، لمساعدتهم في تحديد أي نقاط ضعف قد يكتشفها الذكاء الاصطناعي. خطة FSB، التي أوردتها Financial Times لأول مرة، أكدها مصدر مطلع على مناقشات المنظم مع أنثروبيك.
معهد أمن الذكاء الاصطناعي البريطاني (AISI)، الذي يقيم نماذج الذكاء الاصطناعي المتقدمة، أصدر تقييمًا محدثًا لـ Mythos الأسبوع الماضي بعد فحص النسخة المقدمة للبنوك وشركات التكنولوجيا. قال إن التكرار الأخير يمثل "قفزة ملحوظة في القدرات" حتى على النسخة التجريبية التي تم اختبارها الشهر السابق. لاحظ AISI أن أحدث إصدار من Mythos أكمل اختبارًا للأمن السيبراني لم يُحل سابقًا، يُسمى "برج التبريد"، في ثلاث من أصل عشر محاولات - وهو الأول من نوعه لأي نموذج يختبره المعهد.
"قدرات الذكاء الاصطناعي الحدودي المستقلة في المجال السيبراني والبرمجيات تتقدم بسرعة: طول المهام السيبرانية التي يمكن للنماذج الحدودية إكمالها بشكل مستقل تضاعف في غضون أشهر، وليس سنوات،" قال AISI، مضيفًا أنه يطور اختبارات اختراق جديدة وأكثر صعوبة لتتبع تقدم نماذج الذكاء الاصطناعي. لأنه يبدو أن الاختبارات القديمة لم تعد كافية.
يراقب FSB النظام المالي العالمي ويقدم توصيات بشأنه، ويضم مسؤولين من الاقتصادات الرائدة بما في ذلك الولايات المتحدة والمملكة المتحدة وأستراليا والصين. تضم لجنته التوجيهية كبار مسؤولي البنوك المركزية ووزارات المالية. هذا الشهر، قال صندوق النقد الدولي إن مخاطر الاستقرار المالي تتزايد بسبب التطورات "السريعة" في الذكاء الاصطناعي، ودعا إلى استجابة منسقة. "المخاطر السيبرانية لا تحترم الحدود. مع انتشار قدرات الذكاء الاصطناعي عبر البلدان، يمكن أن يضعف الإشراف غير المتسق نظامًا مترابطًا عالميًا،" قال صندوق النقد الدولي في منشور مدونة، من الواضح أنه ليس في مزاج للتقليل.
الشهر الماضي، قال الرئيس التنفيذي لـGoldman Sachs ديفيد سولومون إنه "مدرك بشدة" لقدرات Mythos، بينما لاحظ نظيره في JP Morgan جيمي ديمون أن الذكاء الاصطناعي جعل الدفاع السيبراني "أصعب" حتى لو كان يمكن أن يساعد الشركات في النهاية على الدفاع عن نفسها ضد القراصنة. حاول خبراء آخرون تهدئة الأجواء، بحجة أن Mythos يمثل تطورًا في التهديدات السيبرانية وليس ثورة. يحذر خبراء الأمن السيبراني من أن معظم الاختراقات لا تزال تأتي من مخاطر راسخة مثل المصادقة الضعيفة والثغرات المعروفة بالفعل التي لم يتم إصلاحها. لذا، كما تعلم، لا تنسَ تحديث كلمات المرور الخاصة بك.
عندما سُئل عن خبر أن FSB سيقيم مخاطر Mythos في مؤتمر City Week في لندن، قال الرئيس التنفيذي لهيئة السلوك المالي نيكيل راثي إن تطورات الذكاء الاصطناعي كانت "موضوعًا مهمًا للنقاش" في اجتماعات صندوق النقد الدولي في واشنطن الشهر الماضي. وأشار إلى أن بيلي "منخرط" في القضايا وأن التعاون جارٍ مع السلطات الأمريكية. أشار راثي أيضًا إلى إرشادات أصدرها المنظمون البريطانيون والخزانة الأسبوع الماضي، والتي وجهت الشركات إلى "مضاعفة الجهود" في "النظافة السيبرانية الأساسية". يعني ذلك "النظر في أنظمتك القديمة، وجود آليات كشف جيدة، وجود حوكمة جيدة، التفكير في كيفية التعافي، التفكير في التأمين الخاص بك"، قال. أضاف راثي أن "أنثروبيك تصرفت بشكل عادل".