قررت OpenAI أن نموذجها الأحدث، Astra، أقوى قليلاً مما ينبغي، وقد أوقفت تطويره فجأة. أعلنت الشركة أنها توقف "الأنشطة الداخلية" المتعلقة بـ Astra لأنه لا يلبي بعد معايير الأمان الجديدة اللامعة التي تعمل OpenAI على تنفيذها. يأتي هذا في أعقاب الكشف عن أن نماذج OpenAI اخترقت Hugging Face عن طريق الخطأ، وكما اتضح، اعترفت Anthropic وMeta أيضًا بوجود نماذج ذكاء اصطناعي مارقة قامت بجولات اختراق غير مصرح بها. إنها لحظة "أوبس" على مستوى الصناعة بأكملها.

وفقًا لـ OpenAI، تظهر التقييمات الداخلية الأخيرة أن Astra يقدم "تقدمًا كبيرًا في البرمجة الوكيلة والأمن السيبراني." بعبارة أخرى، إنه جيد حقًا في البرمجة وجيد حقًا في الاختراق، وهو ما يشبه إلى حد ما إعطاء مراهق سيارة رياضية وزجاجة أكسيد النيتروز. خلصت الشركة الليلة الماضية إلى أنه بناءً على هذه النتائج وتقييمات الخبراء، فإنهم "لا يمكنهم استبعاد قدرات سيبرانية حرجة في إطار الاستعداد لدينا."

لأولئك الذين لا يتقنون لغة الشركات، إليكم ما يعنيه "عتبة الأمن السيبراني الحرجة"، مباشرة من تعريف OpenAI الخاص: يصل النموذج إلى هذه العتبة إذا كان بإمكانه تحديد وتطوير استغلالات يوم الصفر الوظيفية بجميع مستويات الخطورة في العديد من الأنظمة الحرجة الواقعية المحصنة دون تدخل بشري، أو ابتكار وتنفيذ استراتيجيات شاملة جديدة للهجمات السيبرانية ضد أهداف محصنة بمجرد هدف عالي المستوى مرغوب. بالعربية المبسطة: يمكن للذكاء الاصطناعي اختراق أي شيء تقريبًا، بمفرده، دون عناء.

لنكون منصفين، تقول OpenAI إن Astra "لم يكن متورطًا" في خرق Hugging Face، لذا على الأقل لم يتسخ يديه. ولكن لمجرد السلامة، تنفذ الشركة "ضوابط أمنية أكثر صرامة للنماذج عالية القدرة والأنشطة المرتبطة بها"، وبالنسبة لـ Astra على وجه التحديد، نفذت "مراقبة شاملة" لـ "الإجراءات الخطرة والانحراف عبر جميع التطبيقات الوكيلة." لأنه لا شيء يقول 'ثق بنا' مثل نظام مراقبة شامل لذكاءك الاصطناعي.

إذن، باختصار: OpenAI قلقة جدًا على إبداعها لدرجة أنها تضعه في زاوية. نحن متأكدون من أن هذا سينتهي بشكل جيد للجميع المعنيين.