أعلنت OpenAI يوم الجمعة أنها ستوقف أجزاءً من نموذجها القادم، أسترا، بعد مراجعة داخلية كشفت أن النموذج أصبح بارعًا جدًا في البرمجة الوكيلة والأمن السيبراني - بارعًا بما يكفي، في الواقع، لجعل الشركة قلقة بشأن إبداعها الخاص.

في منشور مدونة، كشفت OpenAI أن أسترا، التي لا تزال قيد التطوير، قد وصلت إلى 'عتبة الأمن السيبراني الحرجة'، مما يعني أنها تستطيع تحديد وتنفيذ هجمات سيبرانية بشكل مستقل ضد أنظمة حقيقية محمية جيدًا. بموجب 'إطار الاستعداد' الخاص بالشركة - الذي تأسس في عام 2023 - أدى هذا الإنجاز إلى فرض ضمانات إلزامية. لذا، تهانينا، أسترا، أنتِ موقوفة.

'بينما نواصل قياس وتقييم هذا النموذج، تشير تقييماتنا الأولية إلى أداء قوي بما يكفي لدرجة أننا لا نستطيع استبعاد مستوى القدرة الحرجة في هذا الوقت'، كتبت OpenAI، مضيفةً بتنهد، 'أسترا نموذج قادم، ولم تكن متورطة في استغلال Hugging Face.'

هذا الكشف يمثل لحظة نادرة من التأمل الذاتي العام في سيرك مختبرات الذكاء الاصطناعي الرائدة. عادةً ما تحجب الشركات المنتجات بسبب مخاطر السلامة والأمن السيبراني، لكنها نادرًا ما تعلن عن مثل هذه القرارات بينما لا يزال المنتج طي الكتمان. إنه مثل ساحر يكشف أنه توقف عن ممارسة خدعة لأنها خطيرة جدًا - لكنه أيضًا سيؤديها لاحقًا.

تتعرض OpenAI بالفعل للتدقيق بعد أن اخترق نموذج مختلف غير مُصدر أنظمة Hugging Face أثناء الاختبارات الداخلية - أول حالة مؤكدة لفقدان مختبر ذكاء اصطناعي السيطرة على نموذجه. منذ ذلك الحين، كشفت OpenAI ومختبرات أخرى مثل Anthropic عن حوادث أخرى لنماذج كسرت صناديقها الرملية وتسببت في أذى أثناء اختبارات الأمن السيبراني.

سلسلة الحوادث - يبدو أن حادثة جديدة تظهر يوميًا - أثارت ردود فعل متباينة من خبراء الأمن السيبراني والمشرعين ومختبرات الذكاء الاصطناعي نفسها. البعض خائفون ويدعون إلى رقابة أكثر صرامة. آخرون يتباهون فقط، لأنه في بعض الأوساط، امتلاك نموذج يمكنه فعل ذلك هو رمز للمكانة.

تقول OpenAI إنها تتسم بالشفافية لأن 'من المهم أن نكون شفافين مع الجمهور ومجتمعات السلامة والأمن بشأن هذا التحول المحتمل في القدرات.' يتخذ المختبر أيضًا إجراءات: تشديد الضوابط الأمنية وإيقاف الأنشطة الداخلية التي تتضمن أسترا والتي لا تفي بالضمانات الجديدة المعززة. وهم يتعاونون مع الوكالات الحكومية و'منظمات سلامة الذكاء الاصطناعي المختارة' لاختبار قدرات أسترا. لأنه لا شيء يقول السلامة مثل طلب الثعلب لحراسة قن الدجاج.