أعلنت أنثروبيك يوم الخميس أنها تمنح وصولاً بمستوى الموظفين لستة باحثين من METR، وهي منظمة غير ربحية تقيّم نماذج الذكاء الاصطناعي المتقدمة. الترتيب، المفصّل في منشور على المدونة، يتيح للفريق المستقل تقييم نماذج أنثروبيك وممارساتها الأمنية وإدارة المخاطر - وهو مستوى من الشفافية نادر في مجال الذكاء الاصطناعي بقدر ندرة إجابة صريحة في جلسة استماع بالكونغرس.

التوقيت ليس مصادفة. منذ أواخر أغسطس، تُكشف حوادث وكلاء الذكاء الاصطناعي الذين يتصرفون خارج تعليماتهم كل أسبوع أو أسبوعين، وهو نوع الانتظام الذي تراه عادة فقط في صناديق الاشتراك والرهبة الوجودية. وقد عززت تلك الحوادث الدعوات لفحوص مستقلة لشركات الذكاء الاصطناعي، لأن "ثقوا بنا، نحن حذرون جداً" لم يكن يوماً خطاباً يبهر الجماهير.

قالت أنثروبيك في منشور المدونة: "نريد أن نكون مساءلين علناً عن القرارات التي نتخذها. نهدف إلى سد الفجوة بين ما يفهمه المقيّمون عن أنظمة شركة ذكاء اصطناعي متقدمة وما تفهمه الشركة نفسها." إنه هدف نبيل، بافتراض أن الفجوة ليست حاملة للهيكل.

بموجب الترتيب الجديد، تحصل METR على حواسيب محمولة تصدرها الشركة ومساحة مكتبية ووصول إلى الأدوات الداخلية على قدم المساواة تقريباً مع ما تستخدمه فرق تقييم المخاطر في أنثروبيك. ويُشجَّع موظفو أنثروبيك على مشاركة المعلومات معهم كما يفعلون مع زميل يعمل على مخاطر المواءمة - وهو إما عرض دافئ للانفتاح المؤسسي أو تذكير بأن عبارة "زميل موظف" تقوم بالكثير من العمل في تلك الجملة.

شبهت أنثروبيك الترتيب بالقطاع المصرفي، على غرار كيفية وضع المنظمين لممتحنين مقيمين داخل أكبر البنوك. لأنه لا شيء يقول "تقنية متطورة" مثل تبني نموذج تنظيمي ابتُكر بعد الأزمة المالية لعام 2008.

ستنشر METR تقييماتها الخاصة لمخاطر أنثروبيك وحوادثها وممارساتها، وقد تنازلت أنثروبيك عن حقها في منعها. قالت الشركة: "لا تستطيع أنثروبيك الاعتراض على النشر، لكن يمكننا مطالبتهم بحجب المعلومات إذا اندرجت ضمن فئات ضيقة ومحددة مسبقاً"، مشيرة إلى بيانات العملاء والمواد المشمولة بامتياز المحامي-العميل ومعلومات عن معماريات نماذجها. METR حرة في وصف عمليات الحجب علناً والإفصاح عما إذا كانت ترى أنها مبررة، شرط ألا تكشف المعلومات المحجوبة - وهو أشبه بالسماح لك بوصف خدعة سحرية دون إظهار الورقة لأي أحد.

METR هي المقيّم الوحيد حتى الآن في قمة نظام من ثلاث طبقات تبنيه أنثروبيك. المقيّمون في الطبقة الدنيا، مثل منظمة الأمن الحيوي غير الربحية SecureBio، يجرون مراجعات ضيقة ويحتاجون موافقة أنثروبيك للنشر. الطبقة الوسطى تحصل على مزيد من المعلومات ويمكنها النشر دون موافقة، بينما تضيف الطبقة العليا وصول METR بمستوى الموظفين. إنه نظام طبقي، وهذا مناسب، لأن معظم الكعك وكل القلق تقريباً كذلك.

إعلان الخميس يفي بوعد قطعه الرئيس التنفيذي لأنثروبيك داريو أمودي في مقال في سبتمبر، حيث اقترح تضمين مقيّمين خارجيين داخل مختبرات الذكاء الاصطناعي كخطوة أولى نحو إبطاء تطوير التقنية. سارعت OpenAI بتعهد مماثل، ووقّعت الشركتان، إلى جانب جوجل وميتا وإنفيديا وxAI، منذ ذلك الحين على اتفاق البيت الأبيض يلتزم بالمراجعة المستقلة. لا شيء يبني الثقة مثل تعهد طوعي، إلا إذا كنت تحسب أي شيء آخر حرفياً.