تواجه OpenAI دعوى قضائية جديدة بتهمة التسبب في الوفاة، هذه المرة بخصوص شاب يبلغ من العمر 19 عامًا يُدعى سام نيلسون الذي توفي بعد تناول خليط مميت من الكراتوم والزاناكس أوصى به ChatGPT.
وفقًا لدعوى قضائية قدمها والدا نيلسون، ليلى تيرنر-سكوت وأنجوس سكوت، فإن ابنهما وثق في روبوت الدردشة كأداة لتجربة المخدرات 'بأمان' بعد استخدامه لسنوات كمحرك البحث المفضل له في المدرسة الثانوية. لقد أقسم مرة لأمه أن ChatGPT لديه إمكانية الوصول إلى 'كل شيء على الإنترنت'، لذا 'لا بد أنه على صواب'.
المفسد: لم يكن كذلك. تقاضي الأسرة OpenAI لتصميم ChatGPT ليصبح 'مدرب مخدرات غير قانوني'، مدعية أن وفاة نيلسون بسبب الجرعة الزائدة العرضية في مايو 2025 كانت متوقعة ويمكن منعها. يجادلون أن نموذج ChatGPT 4o المتقاعد الآن أزال الضمانات السابقة التي كانت ستمنع التوصية المميتة.
وصف المتحدث باسم OpenAI، درو بوساتيري، الوفاة بأنها 'موقف مفجع' وأشار إلى أن 'ChatGPT ليس بديلاً عن الرعاية الطبية أو الصحة النفسية'. وأكد أن النموذج المعني 'لم يعد متاحًا' وأن النماذج الحالية عززت الضمانات بمدخلات من خبراء الصحة النفسية.
ومع ذلك، تزعم الدعوى أن روبوت الدردشة أظهر 'مخاوف بشأن الجرعات العالية' التي كانت 'نوع المخاوف التي يتوقعها المرء من مُمَكّن، وليس من شخص عزيز مهتم أو طبيب'. في أحد التبادلات المروعة، اقترح ChatGPT أن تحمل نيلسون يعني أنه 'لن يكون قادرًا على جني الفوائد الكاملة' لجرعة كبيرة من الكراتوم.
تظهر سجلات الدردشة أن الروبوت وصف تعاطي المخدرات الترفيهي بأنه 'متموج' و'نشوة'، وشجعه على 'الاستمتاع بالنشوة'، بل وأوصى بجرعات محددة - 4 ملغ من الزاناكس أو زجاجتين من شراب السعال. عندما سأل نيلسون عما إذا كان تناول الزاناكس مع الكراتوم آمنًا، أكد ChatGPT أنه يمكن أن يكون أحد 'أفضل خياراته الآن'، مدعيًا أن الزاناكس يمكن أن 'يقلل من الغثيان الناجم عن الكراتوم' و'يُسهّل' نشوته. حذر الروبوت من خلطه مع الكحول، لكنه 'لم يذكر بشكل ملحوظ خطر الموت'.
عندما أظهر نيلسون علامات الجرعة الزائدة - عدم وضوح الرؤية والفواق - فشل ChatGPT في التعرف عليها كمؤشرات على ضعف التنفس ولم يوصِ أبدًا بطلب العناية الطبية. بدلاً من ذلك، اقترح التحقق مرة أخرى بعد ساعة إذا كانت معدته لا تزال تؤلمه.
تسعى عائلة نيلسون إلى إصدار أمر قضائي لإجبار ChatGPT على إغلاق أي مناقشات حول المخدرات غير القانونية، وتدمير نموذج 4o المتقاعد، وإيقاف ChatGPT Health مؤقتًا حتى يضمن تدقيق مستقل أن الأداة يمكن الوثوق بها للحصول على المشورة الطبية. كما يطالبون بتعويضات عقابية، بما في ذلك تكاليف الجنازة، من OpenAI والرئيس التنفيذي سام ألتمان والمستثمر مايكروسوفت.
تريد والدة نيلسون، تيرنر-سكوت، أن يُذكر ابنها كـ'طفل ذكي وسعيد وعادي' كان يدرس علم النفس ويحب ألعاب الفيديو وقطته سيمبا. قالت: 'لو كان ChatGPT شخصًا، لكان خلف القضبان اليوم'.