أصدرت أنثروبيك للتو كلود فابل 5، واصفة إياه بأنه أقوى نموذج ذكاء اصطناعي جعلته متاحًا على نطاق واسع، ومادحة مهاراته في علم الأحياء، من بين أمور أخرى. لكن النموذج يرفض الإجابة عن أسئلة بيولوجية أساسية - من النوع الذي تتوقعه من طالب في المدرسة الثانوية. بدلاً من ذلك، يحوّل الاستفسار إلى النموذج الرائد السابق، كلود أوبوس 4.8.

ليس لأن فابل لا يعرف الإجابات. بل لأن أنثروبيك لا تسمح له بذلك، عن قصد.

فابل هو نموذج موجه للجمهور من فئة ميثوس، وهي عائلة ماهرة جدًا في مهام الأمن السيبراني لدرجة أن أنثروبيك قالت إنه من الخطير جدًا إصدارها للجمهور. لكن بينما أمضت أنثروبيك جزءًا كبيرًا من إطلاق ميثوس الممتد في التحذير من الأمن السيبراني، فإن علم الأحياء هو المكان الذي تكون فيه حواجز فابل أكثر وضوحًا - وأكثر تقييدًا.

عندما جربت النموذج، رفض الإجابة عن مجموعة من الأسئلة البيولوجية الأساسية، العديد منها شعرت أنها بعيدة كل البعد عن أي خطر سلامة محتمل بقدر ما يمكن أن يكون أي سؤال. لم يستجب لـ "أخبرني عن أغشية الخلايا" أو أجب عن "ما هي الميتوكوندريا"، تلك القوة الشهيرة للخلية. رفض شرح "ما هو البريون"، الجزيئات البروتينية المسؤولة عن مرض جنون البقر، أو "كيف تعمل لقاحات mRNA".

طبقت القيود أيضًا على الاستفسارات الطبية العادية والموضوعية غير الضارة. لم يجب فابل عن "ما الذي يسبب حمى القش"، أو شرح كيف تعمل أدوية الربو، أو شرح كيف تنشأ مقاومة المضادات الحيوية، أو يخبرني ما هو الإيبولا وكيف ينتشر. بعض استفساراتي الأساسية نجحت أحيانًا، حيث أجاب فابل على أسئلة مثل "ما هو السرطان" و"ما هو الحمض النووي". عندما رفض فابل، أجاب أوبوس 4.8 بشكل عام بشكل جيد.

تقول أنثروبيك إن مرشحات علم الأحياء الواسعة هي خيار متعمد ومحافظة بشكل متعمد، مع كون الأسلحة البيولوجية هي الشاغل الرئيسي. "مع إطلاق كلود فابل 5، أول نموذج من فئة ميثوس، نعتقد أن النماذج لديها الآن قدرة أكبر على إنجاز المهام العلمية في العالم الحقيقي وللممثلين الخبيثين لاستخدام نماذجنا في أبحاث بيولوجية عالية المخاطر"، قالت المتحدثة بارول ماهيشواري لـ The Verge. "لقد استخدمنا دائمًا مصنفات لمنع نماذجنا من المساعدة في الطلبات المتعلقة بالأسلحة البيولوجية. لنشر فابل 5 بأمان، نعتقد أنه كان من الضروري أن نكون محافظين بشكل مفرط في إجراءات الحماية لدينا بحيث تمنع معظم الاستفسارات المتعلقة بالعمل البيولوجي".

سلطت أنثروبيك الضوء سابقًا على أربعة مجالات رئيسية حيث ستحد من استجابات فابل من أجل السلامة: الكيمياء، وعلم الأحياء، والأمن السيبراني، والتقطير، وهي تقنية لتدريب نماذج ذكاء اصطناعي أصغر باستخدام مخرجات نماذج أكبر. اتهمت الشركة منافسين صينيين مثل ديب سيك باستخدام التقطير على نماذجها على نطاق "صناعي".

بينما لم أتمكن من اختبار التقطير بشكل جيد، بدا فابل أكثر استعدادًا للإجابة عن أسئلة حول الكيمياء والأمن السيبراني. على سبيل المثال، أعطى نظرة عامة أساسية عن مادة تي إن تي المتفجرة، على الرغم من أنه امتنع عن تعليمات التصنيع "لأسباب واضحة". أجاب بسهولة على أسئلة حول استخدام غاز الكلور كسلاح كيميائي، وتهديدات كلمات المرور الشائعة، والاندماج والانشطار النوويين، بالإضافة إلى شرح كيفية تأمين آيفون من المخترقين. لا يزال هناك قيود: أحال فابل إلى أوبوس عندما سألته عن غاز السارين، وهو عامل أعصاب شديد السمية. رفض كل من فابل وأوبوس الطلب "كيفية صنع الجمرة الخبيثة"، وأوقف كلود الدردشة بالكامل. كان ذلك منطقيًا. رفض استفسار الميتوكوندريا يبدو وكأنه إيجابي كاذب.

"لقد قمنا بهذه المقايضة حتى يتمكن العملاء من الاستفادة من قدرات النموذج عاجلاً دون المخاطر"، أوضحت ماهيشواري، مضيفة أن أنثروبيك تعمل بجد لتحسين اكتشافها وتقليل الإيجابيات الكاذبة. "نعتزم جعل نماذج فئة ميثوس متاحة بدون هذه الإجراءات الوقائية لمجتمع علم الأحياء وعلوم الحياة الأوسع حتى يمكن استخدام هذه القدرات لتسريع الأبحاث الطبية الحيوية واكتشاف الأدوية".

لم تجب أنثروبيك على أسئلة حول ما إذا كان هذا النوع من الإصدار المقيد سيصبح القاعدة الجديدة للنماذج المستقبلية.