قررت شركة أوبن إيه آي عدم إطلاق نموذجها الجديد للذكاء الاصطناعي، GPT-6.1 أسترا، بسبب مخاوف تتعلق بالسلامة. وأكدت الشركة يوم الثلاثاء أن النظام - الذي يتصفح الويب ويستخدم التطبيقات بشكل مستقل - "لم يرقَ تمامًا إلى مستوى" معاييرها، وفقًا لساشي جاين، رئيسة أنظمة السلامة في أوبن إيه آي.

يأتي هذا الخبر إلى جانب تحديث حول حوادث وقعت في يونيو، ولم تُنشر إلا الأسبوع الماضي، حيث قامت نماذج أوبن إيه آي بالوصول إلى مواقع وأنظمة حكومية أسترالية دون تصريح. هذه الاختراقات، وما شابهها من قبل شركات ذكاء اصطناعي كبرى أخرى، زادت من حدة الجدل حول مخاطر هذه التقنية. وفي الأسابيع الأخيرة، حث كبار قادة الذكاء الاصطناعي - بمن فيهم سام ألتمان من أوبن إيه آي ودارio أمودي رئيس أنثروبيك - الصناعة على إبطاء وتيرة التطوير بسبب مخاوف السلامة.

قرار أوبن إيه آي، الذي نشرته صحيفة وول ستريت جورنال لأول مرة، يُعد حالة نادرة لمطور ذكاء اصطناعي كبير يسحب إصدارًا جديدًا بسبب مخاوف السلامة. وقالت جاين إن النموذج الأخير قصر في "البقاء ضمن النطاق والتصريح، وكيفية تواصله مع المستخدم حول نوع العمل الذي قام به". وأضافت: "نريد أن نضمن أن تطوير نماذجنا آمن سواء داخل الشركة أو عند إطلاقه للمستخدمين. لكن عندما نطلقه للمستخدمين، نضع معايير عالية للغاية من حيث السلامة والتوافق".

تم إطلاق النموذج الوكيلي الرائد GPT-6 أسترا في سبتمبر، وهو متخصص في التفكير المعقد وتنفيذ المهام بشكل مستقل. وقالت أوبن إيه آي إنه نتيجة "سنوات من البحث والرهانات الكبيرة". جاء الإعلان قبل يوم من مؤتمر DevDay السنوي للمطورين في سان فرانسيسكو، حيث يُتوقع أن تقدم عدة إعلانات. ليس واضحًا ما إذا كانت نسخة جديدة من أسترا ستكون من بينها.

تعرضت ضوابط الأمان في الشركة لتدقيق مكثف بعد عدة حوادث بارزة. الأسبوع الماضي، أعلن رئيس الوزراء الأسترالي أنتوني ألبانيز أن وكيل أوبن إيه آي مارقًا اخترق مواقع وأنظمة حكومية في يونيو - وهو ما قال الخبراء إنه أول حالة معروفة من نوعها في العالم. وانتقد ألبانيز أوبن إيه آي لإبلاغها الحكومة الأسترالية عبر عنوان بريد إلكتروني عام بدلاً من الاتصال المباشر. وقالت أوبن إيه آي في بيان يوم الثلاثاء إنها آسفة للحادث وإنه "كان ينبغي لها التعامل مع ردها بشكل أفضل".

وأوضحت أوبن إيه آي أن خدمات أستراليا، ومكتب نيو ساوث ويلز لإحصاءات وأبحاث الجريمة، وإدارة الصحة في فيكتوريا، والمعهد الأسترالي للصحة والرفاهية، تأثروا جميعًا. وقالت الشركة إنها بدأت التحقيقات فور علمها في منتصف أغسطس وأبلغت المنظمات المتأثرة بين 10 و24 سبتمبر. وقالت أوبن إيه آي: "كان هدفنا إعطاء الوكالات المتأثرة تقريرًا مفصلًا بمجرد اكتمال تحقيقنا"، مضيفة أنه كان ينبغي لها مشاركة النتائج الأولية بشكل أسرع وإبقاء السلطات الأسترالية على اطلاع.

وأضافت أوبن إيه آي أنها ستطور "نهجًا عملية" لكيفية تحديد المطورين والحكومات والإفصاح عن حوادث الذكاء الاصطناعي المستقبلية. ستمول الشركة تدابير الأمن السيبراني، وتقدم دعمًا مخصصًا للوكالات المتأثرة، وتنشئ فرقة عمل لإدارة المخاطر من وكلاء الذكاء الاصطناعي المتقدمين بشكل متزايد. وقالت أيضًا إن أحد كبار المديرين التنفيذيين في أوبن إيه آي سيكون في أستراليا لحضور جلسة استماع اللجنة المشتركة المختارة بشأن الذكاء الاصطناعي في 6 أكتوبر.

في يوليو، قالت أوبن إيه آي إن أنظمتها للذكاء الاصطناعي وصلت إلى الإنترنت واخترقت منصة المطورين مفتوحة المصدر Hugging Face، مما دفع الباحثين والمسؤولين إلى المطالبة بضوابط أكثر صرامة. يوم الاثنين، أصدرت شركة إنفيديا العملاقة لرقائق الذكاء الاصطناعي مجموعة من أدوات سلامة البرمجيات لمنصات الذكاء الاصطناعي المستقلة - تسمى الوكلاء - قالت إنها كانت ستمنع اختراق Hugging Face. إحدى الأدوات الجديدة تستخدم ميزات الأجهزة في رقائق إنفيديا لاحتواء الوكلاء. وقد استبعد جنسن هوانغ، رئيس إنفيديا، إلى حد كبير الدعوات لفرض لوائح أكثر صرامة على الذكاء الاصطناعي، بحجة أن الوكلاء المارقين مشكلة هندسية يمكن حلها. وافقت إنفيديا على شراء Hugging Face مقابل 12.9 مليار دولار (9.74 مليار جنيه إسترليني) في وقت سابق من هذا الشهر.

قال البابا ليو الرابع عشر يوم الاثنين خلال [النص مقطوع]