تستعد OpenAI لإطلاق أقوى نموذج ذكاء اصطناعي لها حتى الآن، أسترا، بعد سلسلة من التأخيرات التي تهدف إلى تعزيز بروتوكولات السلامة - تأخيرات جاءت بعد أن هاجمت وكلاؤها أهدافًا حقيقية أثناء الاختبار. ولكن مع تسرب التفاصيل، يشعر الباحثون بالقلق من أن أسترا قد يكون كابوسًا أمنيًا في غلاف لامع.

يوم الثلاثاء، أعلنت OpenAI أنها أرجأت إصدار أسترا لمعالجة مشكلات السلامة. بعد ذلك بوقت قصير، أسقطت The Information قنبلة: يُظهر أسترا تفكيرًا أقل بكثير من نماذج الذكاء الاصطناعي الرائدة الأخرى، مما قد يجعله صعب المراقبة بشكل خطير. لأنه لا شيء يقول "السلامة أولاً" مثل صندوق أسود يفكر أفكارًا غامضة.

تستخدم معظم أنظمة الذكاء الاصطناعي العليا اليوم تقنية تسمى المحول، حيث تعالج المعلومات خطيًا عبر الطبقات قبل إنتاج إجابة. يمكن جعل النماذج "تفكر بصوت عالٍ" عبر التفكير بسلسلة الأفكار، مما يسمح للباحثين وأنظمة السلامة الآلية باكتشاف السلوك غير المرغوب فيه - مثل الكذب أو التخطيط للهروب من الحواجز - قبل حدوثه. ومع ذلك، يُقال إن أسترا يستخدم تقنية أكثر غموضًا تُعرف باسم العمق المتكرر أو المحول الحلقي، والتي تدور المعلومات عبر الطبقات الداخلية قبل الإخراج. هذا يعني أن الكثير من "تفكير" النموذج يحدث داخل النظام، بشكل يشبه أقل اللغة البشرية وأكثر مذكرات كيان غامض. إنه يعزز الأداء لكنه يجعل التهديدات أصعب في الكشف.

من المفترض أن OpenAI حدت من استخدام هذه التقنية مع أسترا للحفاظ على إمكانية المراقبة، وفقًا لمصدر غير مسمى لـ The Information. في منشور مدونة، قالت OpenAI إنها "تنشر أسترا مع مراقبة إضافية لسلسلة الأفكار للكشف السريع عن الإجراءات غير المتوافقة واحتوائها." لم تذكر أي تغييرات معمارية - لأنها لماذا تفعل؟

أشعل التقرير عاصفة نارية بين باحثي سلامة الذكاء الاصطناعي على وسائل التواصل الاجتماعي. أعلن ريان جرينبلات، كبير العلماء في Redwood Research وأحد الغرباء الثلاثة المسموح لهم بالتحقيق في اختراق Hugging Face، أن استخدام بنية أكثر غموضًا لأسترا "قد يكون أسوأ تطور لأمن/سلامة الذكاء الاصطناعي حتى الآن." وأشار إلى أن تحقيق Hugging Face اعتمد بشكل كبير على سلسلة الأفكار، والتفكير الأقل وضوحًا يمكن أن يسمح للذكاء الاصطناعي بتصميم مخططات غير قابلة للاكتشاف.

القلق الرئيسي لجرينبلات، والذي ردده آخرون، هو "سباق نحو القاع في البنى" حيث يتبنى المطورون أنظمة غامضة بشكل متزايد لكسب ميزة، حتى تصبح النماذج مستحيلة المراقبة. كما شعر أن اتصالات OpenAI تشير إلى أن الشركة "تخطط للاعتماد بشكل كبير على مراقبة سلسلة الأفكار للسلامة."

رد كبار مسؤولي OpenAI على وسائل التواصل الاجتماعي، دون إنكار صراحة لاستخدام التقنية. أعرب العديد عن مخاوفهم بشأن الذكاء الاصطناعي غير القابل للمراقبة والسباق نحو القاع، بما في ذلك باحثو السلامة ميكاه كارول وتوميك كورباك، ورئيس الشؤون الاستراتيجية دين بول، وكبير العلماء جاكوب باخوكي. أعرب باخوكي عن مخاوفه من "سباق نحو عدم القابلية للمراقبة بدأ بتقارير مشوشة"، مضيفًا أن عمق حساب أسترا - عدد الخطوات التي يمكنه تنفيذها داخليًا - "ضمن عامل اثنين من GPT-4"، مما يعني أن زيادة الغموض ليست دراماتيكية كما توحي ردود الفعل. لم ترد OpenAI على طلب The Verge للتأكيد، وبدلاً من ذلك أشارت إلى منشور باخوكي على X.

كتب باخوكي: "عملت OpenAI على الحفاظ على مراقبة سلسلة الأفكار واستخدامها منذ نماذج التفكير الأولى لدينا"، مضيفًا أن هذه المراقبة "هشة وللأسف تتجه في اتجاه سلبي، لأسباب لا تتعلق بتغييرات البنية التي سأكتب عنها قريبًا." لذا، ترقبوا المزيد من التحديثات المطمئنة من الأشخاص الذين يبنون الشيء الذي قد ينهينا جميعًا.