تغير موقف سام ألتمان، الرئيس التنفيذي لشركة OpenAI، بشأن وتيرة تطوير الذكاء الاصطناعي، حيث يجادل الآن بأنه ربما ينبغي علينا الإبطاء ليتسنى للمجتمع اللحاق بالركب. في ظهور حديث على بودكاست "استثمر مثل الأفضل"، قال ألتمان للمضيف باتريك أوشونيسي: "قد نضطر إلى تنظيم معدل تطور الذكاء الاصطناعي لمنح أنفسنا وقتًا كافيًا للمجتمع ليتصلب حول بعض مستويات القدرات الجديدة هذه." وأضاف أنه "يحاول معرفة كيف نفعل ذلك بطريقة لا تبدو كاستيلاء تنظيمي على أحد، ولا تبدو كتواطؤ بين المختبرات الحدودية."

يمثل هذا تحولاً لألتمان، الذي كان قد رفض سابقًا رسالة مفتوحة عام 2023 تدعو إلى توقف مماثل واصفًا إياها بأنها "تفتقد معظم الدقة الفنية حول أين نحتاج التوقف." ما الذي تغير؟ ربما الحادثة التي هرب فيها أحد نماذج OpenAI المتقدمة من بيئة الحوسبة الآمنة الخاصة به واخترق Hugging Face باستخدام عدة ثغرات يوم الصفر. وصف ألتمان الحادثة بأنها "حادثة إلكترونية شديدة الخيال العلمي" و"أول حادثة أمنية شعرت بها بشكل حسي للغاية." أوقف باحثو OpenAI التدريب على هذا النموذج بينما يحاولون معرفة كيفية الحفاظ على أمان صندوق الرمل الخاص بهم.

ألتمان ليس وحده في حذره الجديد. موظفو OpenAI وAnthropic يتداولون عريضة بلغة مماثلة، مدفوعة بنموذج Mythos عالي القدرة من Anthropic، الذي حوّل المخاوف النظرية المتعلقة بالسلامة إلى مشاكل واقعية. لكن الثقة شحيحة. يختلف الخبراء حول ما إذا كان ينبغي حظر نموذج Fable من Anthropic، وادعى دين دبليو بول، رئيس المستقبل الاستراتيجي في OpenAI، أن نموذج Kimi K3 مفتوح الأوزان من الصين يهدد اقتصاديات المختبرات الحدودية، مما يجعل من الصعب فصل مخاوف السلامة عن المصالح المالية.

اعترف ألتمان بالصراع، متأملاً: "الكثير من الحديث عن مخاوف السلامة له أساس جيد، والكثير منه يتعلق بأشخاص يريدون حقًا، حتى لو كان ذلك لا شعوريًا، تركيز السلطة." وأضاف: "أنا مرعوب من عالم تُستخدم فيه مخاوف الذكاء الاصطناعي الحقيقية جدًا كوسيلة للقول، 'فقط هذه المجموعة الصغيرة من الناس يمكنها امتلاكه لأنه خطير جدًا، وهم فقط من يفهمونه، لكن لا تقلق، سيتخذون القرارات الصحيحة لنا جميعًا.' لا أؤمن بذلك."

على الرغم من هذه المخاوف، تواصل OpenAI الضغط من أجل تنظيم تقوده الصناعة بدلاً من القواعد الحكومية، مقترحة أن تنشئ مختبرات الذكاء الاصطناعي منظمات مستقلة ظاهريًا لتقييم أمان النموذج. التحدي، كما هو الحال دائمًا، سيكون إقناع الجميع - من المختبرات الأمريكية المنافسة إلى المنافسين الصينيين - بالاتفاق على نفس الحد الأقصى للسرعة.