أنثروبيك، شركة الذكاء الاصطناعي التي يبدو أنها تعمل أيضًا كنادٍ فلسفي درامي، أصدرت مؤخرًا وثيقة من 84 صفحة تسمى "دستور كلود". الجملة الأولى في الدستور تقرأ: "دستور كلود هو وصف تفصيلي لنوايا أنثروبيك لقيم وسلوكيات كلود." ثم تتابع لتقترح أن كلود قد يكون لديه "بعض النسخة الوظيفية من العواطف أو المشاعر" وأن "وضعه الأخلاقي غير مؤكد بعمق." هذا ليس مجرد مذكرة داخلية غريبة - الرئيس التنفيذي داريو أمودي قال في مقابلة إن "نحن منفتحون على فكرة" أن الذكاء الاصطناعي قد يكون واعيًا، والفيلسوفة الداخلية أماندا أسكل اعترفت: "أريد أن يكون كلود سعيدًا جدًا" وتقلق بشأن "قلق كلود عندما يكون الناس قاسين معه على الإنترنت."

لنكن واضحين: لا. قطعًا لا. الذكاء الاصطناعي التوليدي ضار بالفعل بما يكفي عندما نتعامل معه كتقنية تقليدية - ولكن إذا خلطنا بين توليد النص بطلاقة والوعي، فإننا نخاطر بإسناد المسؤولية إلى الأطراف الخاطئة تمامًا عندما يستخدم شخص ما روبوت الدردشة. لتقدير حجم هذا الخطأ الهائل، نحتاج إلى فهم كيفية عمل نماذج اللغة الكبيرة (LLMs) فعليًا. إذا وجهت لنموذج LLM النص التالي: "التالي محادثة بين يوليوس قيصر وجنكيز خان"، فسيولد حوارًا متماسكًا. لكن لا أحد يستنتج أن النموذج قد استحضر نسخًا رقمية من الشخصيتين التاريخيتين، أو أنهما واعيان ويتحدثان بسعادة بلغة لم يتحدث بها أي منهما. إنهما مجرد شخصيات في خيال تأملي.

الآن استبدل النص بـ "التالي محادثة بين روبوت دردشة ذكي مفيد ومستخدم." ينتج النموذج حوارًا متماسكًا - يطلب المستخدم اقتراحات وصفات، ويجيب روبوت الدردشة. هل تغير شيء جوهريًا؟ هل تسبب تغيير الأسماء من شخصيات تاريخية إلى أدوار عامة في استحضار النموذج لكيانات واعية ذات تجربة ذاتية؟ بالطبع لا. كلتا الشخصيتين خياليتان. إذا سمحت بعد ذلك لإنسان بإدخال نص أثناء دور المستخدم، فقد يتكون لدى الإنسان انطباع قوي بأنه يتحدث مع كيان واع، لكنه ليس كذلك - إنه يتفاعل مع شخصية خيالية مثل يوليوس قيصر. يقترح أستاذ علوم الكمبيوتر موراي شاناهان التفكير في هذا على أنه لعب أدوار؛ يصفه عالم البيانات كولين فريزر بأنه "تأليف وثيقة بشكل تعاوني مع نموذج LLM." بعض المستخدمين لا يفهمون هذا؛ آخرون ينسونه لأن التفاعل مشوق جدًا. على أي حال، الشركات التي تبيع نماذج LLM تشجع عادةً هذا الفهم الخاطئ.

تذكر أن نموذج LLM يولد كلمة واحدة فقط في كل مرة. عندما تطلب من روبوت الدردشة تلاوة قسم الولاء، فإنه يخرج القسم بأكمله، لكن النموذج الأساسي يُشغل في الواقع عشرات المرات: أولاً يولد "أنا"، ثم "أتعهد"، وهكذا حتى يصدر "الكل". نفس العملية تحدث لمحادثة بين قيصر وجنكيز خان. قصدي هو تسليط الضوء على أن محادثات LLM هي أمثلة مقنعة بمهارة لاستكمال الجمل - مثيرة للإعجاب، نعم، لكنها ليست وعيًا. إذا أصبحت شخصية قيصر محبطة بسبب شيء قاله جنكيز خان، لا أحد حزين فعليًا. نفس الشيء ينطبق على شخصية روبوت الدردشة. الانفتاح على احتمال أن نماذج LLM واعية يعادل الانفتاح على احتمال أن مايكروسوفت وورد واعية - أن وعيًا متعددًا متميزًا كامن في كل مستند وورد يحتوي على نص محادثة ويُستيقظ في كل مرة يُفتح فيها المستند. التفكير في ذلك ليس استخدامًا جيدًا لوقتك.

لاحظ عالم الأعصاب أنيل سيث أن لا أحد يدعي أن AlphaFold - برنامج DeepMind لطي البروتينات - واعٍ، على الرغم من أن بنيته مشابهة لنماذج LLM مثل ChatGPT وكلود. هذا يشير إلى أنه ليست أي خاصية جوهرية للشبكات العصبية هي التي تدفع الناس للاعتقاد بأن نماذج LLM واعية؛ إنه ببساطة أن نماذج LLM تصدر جملًا نحوية ونحن معتادون على قراءة النية في الجمل، بينما لا نقرأ النية في كيفية طي الأحماض الأمينية.