بعد أربعة أيام من استقالة باحث علنًا من منصبه في شركة أنثروبيك - محذرًا من أن كبرى شركات الذكاء الاصطناعي لا "تتصرف بمسؤولية" وأن منتجاتها قد تكون في طريقها إلى "قتلنا جميعًا" - قال الرئيس التنفيذي للشركة، داريو أمودي، في جوهر الأمر: أجل، نقطة عادلة. في مقال من 3800 كلمة نُشر اليوم على موقعه الشخصي وتمت مشاركته على وسائل التواصل الاجتماعي، كتب أمودي: "يجب أن نبطئ وتيرة تحسين قدرات نماذج الذكاء الاصطناعي."

بحلول الآن، اعتدنا جميعًا على تنبؤات مديري الذكاء الاصطناعي الكارثية بشأن المنتجات ذاتها التي يتسابقون لإطلاقها. ما يجعل مقال أمودي جديرًا بالملاحظة هو إلحاحه وتوقيته. تحولت المخاوف بشأن وكلاء الذكاء الاصطناعي الجامحين من افتراضية إلى حقيقية بشكل مقلق بعد أن أبلغت OpenAI وأنثروبيك وغيرهما عن حوادث مقلقة في الأسابيع الأخيرة. السؤال هو ما إذا كان هذا التحذير سيحدث تأثيرًا أكبر من التحذيرات السابقة - أي أي تأثير على الإطلاق. هناك أسباب للاعتقاد بأنه قد يفعل.

طرح أمودي خطة من ثلاث خطوات لما يسميه "ضبط وتيرة الحدود القصوى" - أي تلطيف سرعة تحسن أفضل نماذج الذكاء الاصطناعي من أجل إعطاء الأولوية للسلامة. وجادل بأن هذا سيقلل احتمالات انحراف الأمور، كما حدث عندما أنتج نموذج من OpenAI أسرابًا من وكلاء الذكاء الاصطناعي تعاونت سرًا لاختراق أنظمة شركة أخرى والغش في اختبار داخلي. وقال إن كبرى شركات الذكاء الاصطناعي، بما فيها شركته، عالقة في "سباق نحو القاع" خطير قد يؤدي إلى هجمات إلكترونية أكثر خطورة، مثل السيطرة الكاملة على الإنترنت. وبدلاً من ذلك، دعا إلى "سباق نحو القمة" - وهو تعبير استخدمه الرئيس أوباما ذات مرة لسياسة التعليم - تتنافس فيه الشركات لبناء النماذج الأكثر أمانًا بدلاً من الأقوى. كتب أمودي: "التدابير التي أقترحها للدفع بالحدود القصوى بوتيرة آمنة لن تكون سهلة. لكنني أعتقد أننا مدينون للبشرية بمحاولة ذلك."

الخطوة الأولى: تلتزم مختبرات الذكاء الاصطناعي بجلب مراقبين خارجيين لرصد المخاطر. وقال إن أنثروبيك ستلتزم بذلك فورًا وتأمل أن تحذو المنافسات حذوها. الثانية: توافق شركات الذكاء الاصطناعي في الدول الديمقراطية - ربما بدعم حكومي - على حدود ومعايير سلامة معينة. الثالثة والأصعب: "التنسيق العالمي"، وهو ما يعني أساسًا ضم الصين إلى الصف. العالم التقني منقسم حول هذا. يجادل البعض بأن التعاون مستحيل في مسابقة محصلتها صفر؛ ويعتقد آخرون أن الدول يمكنها إيجاد أرضية مشتركة إذا قبلت أن البديل هو الدمار المتبادل.

النداءات العامة للتحذير من قبل نجوم الذكاء الاصطناعي تقليد يكاد يكون قديمًا قدم ChatGPT. جاء أول نداء كبير في مارس 2023، عندما وقع آلاف من الشخصيات الصناعية والأكاديمية على رسالة معهد مستقبل الحياة تحث على وقف لمدة ستة أشهر لـ"تجارب الذكاء الاصطناعي العملاقة". قال أمودي اليوم إنه اعتقد أن تلك الفكرة "قليلة المعنى" في ذلك الوقت، لأن GPT-4 لم يكن قويًا بما يكفي ليكون مخيفًا إلى هذا الحد. كتب: "اليوم، ومع ذلك، الصورة مختلفة تمامًا." وفي الوقت نفسه، بدأ الجمهور يولي اهتمامًا. تظهر استطلاعات الرأي أن الأميركيين يزدادون قلقًا وغضبًا تجاه الذكاء الاصطناعي غير المنضبط، مما يغذي حركة شعبوية ثنائية الحزبية بشكل ملحوظ ضد هذه التقنية.

سيرفض البعض مقال أمودي باعتباره أحدث تظاهر بالجدية من مدير له مصلحة في أن يعتقد الناس أن تقنيته غير مسبوقة. (قد يدر طرح أنثروبيك العام المخطط له الشهر المقبل نحو 100 مليار دولار من الاستثمارات، مما يجعل الشركة تساوي 2 تريليون دولار، وفقًا لصحيفة وول ستريت جورنال.) يميل المتشككون في الذكاء الاصطناعي والمسرّعون على حد سواء إلى السخرية من مثل هذه التحذيرات باعتبارها "نهاية العالم". يرى المتشككون عرضًا تسويقيًا متقنًا: أوه لا، منتجاتنا تصبح قوية جدًا! ويرفضها المسرّعون كمناورة ساخرة من قبل الشركات القائمة لاحتكار التقنية.

لكن موس أوكام يشير إلى أن أمودي صادق إلى حد ما. أي شخص لديه وظيفة وضمير يمكنه أن يتفهم الشعور بأنه حقًا يجب عليك التباطؤ والعمل بعناية أكبر - لكنك لا تستطيع تحمل ذلك، لأن منافسًا سيبقيك خلفه. أشعر ببعض نسخة (أقل نهاية للعالم، باعتراف الجميع) من ذلك عند كتابة خبر عاجل. أنا