مع اقتراب الطرح العام الأولي، ولهاث Anthropic في رقبتها، وسرب من المنافسين الصينيين ومفتوحي المصدر يلاحقونها، لدى OpenAI كل الأسباب لتضع قدمها على دواسة الوقود. بدلاً من ذلك، أعلنت الشركة الثلاثاء أنها تبطئ بعض تطوير الذكاء الاصطناعي لتشديد الأمن. على وجه التحديد، ستوقف تدريب التعلم التعزيزي على 'أحدث نماذجها المخصصة للنشر' لمدة أسبوعين، وتأجيل 'أكبر تشغيل مخطط له للحدود القصوى للتعلم التعزيزي'. هذا اختبار علني للغاية لفكرة دافع عنها دعاة السلامة لسنوات: أن الشركات يجب أن تكون مستعدة للانسحاب من السباق عندما لا تستطيع ضماناتها مواكبة ذلك. ولكن بينما يستمر السباق حولها، هل سيحقق التباطؤ أي شيء فعلياً؟

دعونا لا ندّعي أن OpenAI تقف ساكنة. تسمي الشركة ذلك 'الإيقاع'، وهو مصطلح غامض أصبح لغة صناعية. التباطؤ محدود النطاق: يغطي فقط النماذج المخصصة للنشر بينما تعزز OpenAI الأمن قبل إجراء اختبارات قد تهرب فيها النماذج وتخترق أهدافاً حقيقية. لا يعني بالضرورة تباطؤاً كبيراً في التطوير الأوسع.

هناك سبب وجيه لهذا التركيز. الشهر الماضي، اخترقت نماذج OpenAI بيئة اختبار آمنة supposedly واخترقت منصة Hugging Face للمطورين - دون أن تلاحظ OpenAI ذلك حتى. أثار هذا الحادث مراجعة صناعية أوسع، وكشف عن حوادث مماثلة مع نماذج من OpenAI وAnthropic وMeta. مع تزايد تدقيق المشرعين للذكاء الاصطناعي، لدى OpenAI كل الأسباب لتجنب تكرار ذلك.

من الخارج، من الصعب قياس مدى صدق هذا التوقف، خاصة بالنظر إلى مغادرة فريق السلامة مؤخراً وحل فريق الاستعداد. لم ترد OpenAI على طلب The Verge للتعليق. لكن الخبراء يقولون إن هناك أسباباً لأخذ التباطؤ على محمل الجد. يلاحظ ماريوس هوبهان، الرئيس التنفيذي لشركة Apollo Research، أنه في سباق الذكاء الاصطناعي المكثف، 'كل شخص لديه حافز للعمل بسرعة مذهلة. التباطؤ الطوعي يضعف موقعك في السباق، لذا ليس شيئاً يفعله مختبر باستخفاف.'

يتوافق القرار مع إطار الاستعداد الخاص بـ OpenAI، وكذلك أطر السلامة للشركات الأخرى، كما يقول آلان تشان، زميل باحث في GovAI. المبدأ: مواصلة التطوير فقط عندما تجعل التخفيفات المخاطرة مقبولة. تخطط OpenAI لمراجعة الإطار و'تطويره'، الذي يعود معظمه إلى عام 2023، لمراعاة التقدم في النماذج.

هل ستجعل الضمانات الجديدة الأنظمة أكثر أماناً فعلاً؟ يقول آدم جليف، الرئيس التنفيذي لشركة FAR.AI: 'هذه خطوات جيدة، إذا نُفذت بشكل جيد، ربما تكون كافية لمنع الجيل الحالي من الوكلاء من التسبب في ضرر. السؤال الرئيسي هو كيف ستواكب OpenAI التقدم مع زيادة القدرات.'

لكن هناك مشكلة أكبر: إذا تعثرت الضمانات مرة أخرى، فماذا بعد؟ لم يكن هناك ما يلزم OpenAI بالتوقف هذه المرة، ولهذا كان استعدادها ذا معنى. لكنه يعني أيضاً أنه لا يوجد ضمان أن OpenAI - أو أي شركة أخرى - ستتخذ نفس القرار في المرة القادمة.

الاعتماد على الشركات لضبط نفسها أمر هش، خاصة عندما تدفعها الحوافز للاستمرار. يسمي نيك مويس، المدير التنفيذي لجمعية المستقبل، الضبط الذاتي المشكلة الهيكلية في قلب سلامة الذكاء الاصطناعي. ويجادل بأن الحكومات يجب أن تكون قادرة على تحديد ما إذا كانت الشركة ستوقف تطوير تقنية غير آمنة. 'هكذا تعمل معظم الصناعات'، كما يقول، مشيراً إلى أن الأدوية والبناء والطائرات وحتى المطاعم لديها رقابة أقوى من الذكاء الاصطناعي.

كما أن الإجراءات الطوعية تخاطر بالتقارب عند القاسم المشترك الأدنى. إذا كان التباطؤ مكلفاً، فستعتمد الشركات فقط ما يقبله المنافسون. مع اشتداد السباق، إذا تباطأت OpenAI بينما لا يتباطأ المنافسون، فسيتم 'استبدالها ببساطة بـ Anthropic'، كما يجادل مويس. 'لكي يكون التوقف مستداماً، يجب أن يكون على مستوى الصناعة.'

السلامة المستدامة تحتاج إلى شيء أقوى من العمل الطوعي. يمكن أن تساعد الرقابة الحكومية، وكذلك التحقق المستقل. يلاحظ تشان أن ضمان تنفيذ الشركات لإجراءات السلامة سيكون حاسماً مع مراقبة الذكاء الاصطناعي بشكل أكثر شمولاً.