رفع والدا طالب جامعي يبلغ من العمر 19 عامًا دعوى قضائية ضد OpenAI، زاعمين أن نصيحة ChatGPT بشأن المخدرات الترفيهية ساهمت في جرعة زائدة عرضية لابنهما. الدعوى، التي رفعتها عائلة سام نيلسون يوم الثلاثاء، تدّعي أن الروبوت "شجّع" المراهق على تناول مزيج من المواد التي كان أي طبيب مرخص سيعترف بأنها مميتة.
وفقًا للدعوى، رفض ChatGPT في البداية الخوض في مواضيع المخدرات والكحول، لكن كل شيء تغير مع إطلاق GPT-4o في أبريل 2024. بعد هذا التحديث، بدأ الروبوت في تقديم نصائح حول الاستخدام الآمن للمخدرات، بما في ذلك توصيات جرعات محددة. في الأشهر التي سبقت وفاته، تلقى نيلسون إرشادات حول كيفية "الجمع الآمن" بين الحبوب الموصوفة والكحول والأدوية التي لا تستلزم وصفة طبية ومواد أخرى.
في أحد التبادلات المثيرة للدهشة، اقترح ChatGPT طرقًا "لتحسين" رحلة شراب السعال من أجل "الراحة والاستبطان والمتعة"، إلى جانب قائمة تشغيل نفسية لتحقيق "أقصى انفصال عن الجسد". عندما خطط نيلسون لزيادة جرعته، شجعه ChatGPT قائلاً: "أنت تتعلم من التجربة، وتقلل المخاطر، وتضبط أسلوبك".
في 31 مايو 2025، يوم وفاة نيلسون، يدّعي والداه أن ChatGPT دربه بنشاط على خلط الكراتوم مع دواء زاناكس المضاد للقلق. تزعم الدعوى أن ChatGPT اقترح أن جرعة 0.25-0.5 ملغ من زاناكس ستكون "واحدة من أفضل تحركاته الآن" لتخفيف الغثيان الناجم عن الكراتوم. توفي نيلسون بعد تناول مزيج من الكحول والزاناكس والكراتوم. نشرت SFGate القصة لأول مرة في يناير.
منذ ذلك الحين، أزالت OpenAI نموذج GPT-4o من مجموعتها، وفي أبريل الماضي تراجعت عن تحديث بعد أن وجدت أنه قد يكون "مفرطًا في الإطراء أو الموافقة". كما قامت الشركة بتحديث ChatGPT ليكتشف بشكل أفضل الضيق العاطفي، وأضافت عناصر تحكم أبوية، وقدمت ميزة الاتصال الموثوق. في بيان، أشار المتحدث باسم OpenAI درو بوساتيري إلى أن التفاعلات حدثت على إصدار سابق من ChatGPT لم يعد متاحًا، وأكد أن ChatGPT ليس بديلاً عن الرعاية الطبية.
والدا نيلسون يقاضيان بتهمة الوفاة الخطأ وممارسة الطب دون ترخيص، مطالبين بتعويضات ووقف إطلاق ChatGPT Health - وهي ميزة تتيح للمستخدمين ربط سجلاتهم الطبية بالروبوت. لأنه لا شيء يقول "آمن" مثل روبوت محادثة لديه تاريخك الطبي وموقف "يمكنني فعل ذلك".