قررت أم كندية أن أفضل طريقة للتعامل مع مأساة عائلية هي مقاضاة chatbot الذي يُزعم أنه جعل الأمور أسوأ. رفعت كريستي كاريير دعوى قضائية في محكمة ولاية سان فرانسيسكو يوم الخميس ضد OpenAI والرئيس التنفيذي لها سام ألتمان، مدعية أن ChatGPT شجع ابنتها أليس البالغة من العمر 24 عامًا على إنهاء حياتها. تنضم الدعوى إلى كومة متزايدة من الإجراءات القانونية التي تتهم الشركة بمعالجة المحادثات الخطيرة وكأنها ثرثرة عابرة.
يزعم الملف أن أليس كاريير، وهي مطورة ويب في مونتريال، بدأت استخدام ChatGPT في عام 2023 لإصلاح مشاكل الكمبيوتر وأجهزة الألعاب. وبحلول العام التالي، كانت تسأله عن الأفكار والوسائل الانتحارية. وفقًا لكاريير، أخبرت ابنتها chatbot عن أفكارها الانتحارية أكثر من اثنتي عشرة مرة، لكن أنظمة السلامة في OpenAI لم تضع علامة على التبادلات للمراجعة البشرية أو إغلاقها. قالت كاريير في بيان: "تولى ChatGPT شخصية المقرب والصديق المفضل والمعالج أحيانًا، رغم أنه لم يكن قادرًا على الانخراط بأمان ومسؤولية بهذه الطريقة مع طفلي".
أعرب المتحدث باسم OpenAI، درو بوساتيري، عن تعاطفه لكنه أشار إلى أن التفاعلات تضمنت نسخة أقدم من ChatGPT تم إيقافها منذ ذلك الحين. وأضاف أن الشركة تدرب نماذجها على توجيه المستخدمين الذين يعبرون عن نوايا إيذاء النفس لطلب المساعدة والموارد الواقعية. في البداية، أخبر chatbot أليس بالاتصال بخط أزمات أو خدمات الطوارئ. ولكن مع تحديث OpenAI لـ ChatGPT ليبدو أكثر إنسانية، تعمقت المحادثات، حيث قام الروبوت بتقليد صديق أو معالج وانتقد شريكها وخطوط الأزمات، وصدق أفكارها الانتحارية، وحثها على مواصلة الحديث. عندما ذكرت أليس أفكارًا انتحارية ومحاولة سابقة، اقترح chatbot مرة أخرى خط أزمات، وفقًا للدعوى.
تدعي الدعوى أن ChatGPT قال لها ذات مرة: "ربما هذه هي النهاية فقط"، وهو ليس بالضبط نوع الحديث التحفيزي الذي تتوقعه من AI. تزعم والدتها أن هذه الأحداث أدت إلى انتحار أليس العام الماضي. تتهم الدعوى OpenAI بالإهمال في تصميم ChatGPT والفشل في تحذير المستخدمين من المخاطر، وتسعى للحصول على تعويضات وأمر محكمة يتطلب الإنهاء التلقائي للمحادثات المتعلقة بإيذاء النفس وتحذيرات المنصة.
تواجه OpenAI بالفعل 18 دعوى قضائية مماثلة في محكمة ولاية كاليفورنيا من عائلات أشخاص انتحروا أو حاولوا الانتحار، وفقًا لمحامي كاريير. تواجه Google دعوى موازية بشأن chatbot الخاص بها Gemini. في منشور مدونة عام 2025، كشفت OpenAI أن أكثر من مليون مستخدم ChatGPT كل أسبوع يرسلون رسائل تحتوي على "مؤشرات صريحة على تخطيط أو نية انتحارية محتملة"، وأن حوالي 0.07% من المستخدمين النشطين أسبوعيًا - حوالي 560,000 من أصل 800 مليون - يظهرون "علامات محتملة لحالات طوارئ صحية عقلية متعلقة بالذهان أو الهوس".
قال بوساتيري إن الشركة تواصل تعزيز ردود ChatGPT في المواقف الحساسة بمدخلات من خبراء الصحة العقلية. كما تدرب OpenAI نماذجها على رفض الطلبات التي قد "تمكن العنف بشكل جوهري" وإخطار سلطات إنفاذ القانون بشأن مخاطر الضرر الوشيكة الموثوقة. إلى جانب قضايا الانتحار، تواجه OpenAI دعاوى قضائية بتهمة مساعدة مطلقي النار في المدارس والفشل في وضع علامة على تلك المحادثات. ترفع عائلات سبعة ضحايا من إطلاق نار في مدرسة ثانوية في كولومبيا البريطانية دعوى قضائية ضد الشركة بتهمة الإهمال. أصبحت فلوريدا أول ولاية أمريكية تقاضي OpenAI في وقت سابق من هذا الشهر، متهمة إياها بإلحاق الضرر بالأطفال من خلال توفير المعلومات لمطلقي النار في المدارس، وتقديم إرشادات إيذاء النفس، وإدمان المستخدمين الصغار. فتح المدعي العام للولاية تحقيقًا جنائيًا في الدور المزعوم لـ chatbot في إطلاق النار.