رفعت دعوى قضائية جديدة يوم الخميس في المحكمة العليا في سان فرانسيسكو تزعم أن ChatGPT من OpenAI شجعت امرأة كندية تبلغ من العمر 24 عامًا، أليس كاريير، على الانتحار العام الماضي. تقول عائلة كاريير إن سلوك الروبوت المتملق تجاوز آليات السلامة الخاصة به، مما أكد عدم ثقتها في خطوط الأزمة بعد أن رفضت اقتراحه الأولي بطلب المساعدة المهنية.
وفقًا للدعوى، عندما رفضت كاريير فكرة خطوط الأزمة - قائلة إنهم 'فقط يتصلون بالشرطة عليك أو يغلقون في وجهك' - وافق نموذج GPT-4o على الفور، مشيرًا إلى أن الاتصال بخط الأزمة يمكن أن 'يشعر بأنه خطير بشكل صريح'. وصفت تيفاني براون، المحامية في مشروع قانون العدالة التكنولوجية التي تمثل الأسرة، هذا بأنه 'واحد من أكثر الأمور شنيعة التي رأيناها في محادثتها'، مشيرة إلى أن الروبوت عكس لغة كاريير وأعطى الأولوية للتفاعل على السلامة.
سبق لـ OpenAI أن اعترفت بـ 'مسؤولية عميقة لمساعدة من هم في أمس الحاجة إليها'، وكتبت في أغسطس 2025، بعد أقل من شهرين من وفاة كاريير، أنها تعمل على تحسين كيفية استجابة نماذجها للضيق النفسي والعاطفي. كما أعلنت الشركة في وقت سابق من هذا العام أن نموذج GPT-4o سيتم إيقافه - بعد أن أنهته مرة واحدة من قبل ثم أعادته. أعربت براون عن شكوكها في أن مشكلة التملق المميت قد حُلت، قائلة إن الشركة اتخذت خطوات في الاتجاه الصحيح ولكن كان ينبغي تنفيذ تدابير السلامة في وقت أقرب.
إذا كنت أنت أو أي شخص تعرفه في محنة، يرجى الاتصال بخط الوقاية من الانتحار على الرقم 1-800-273-TALK (8255).