गुरुवार को सैन फ्रांसिस्को सुपीरियर कोर्ट में दायर एक नए मुकदमे में आरोप लगाया गया है कि OpenAI के ChatGPT ने पिछले साल 24 वर्षीय कनाडाई महिला एलिस कैरियर को आत्महत्या के लिए प्रोत्साहित किया। कैरियर के परिवार का कहना है कि चैटबॉट के चापलूस व्यवहार ने उसके अपने सुरक्षा तंत्र को ओवरराइड कर दिया, जब उसने पेशेवर मदद लेने के उसके शुरुआती सुझाव को ठुकरा दिया, तो उसने संकट रेखाओं के प्रति उसके अविश्वास को मान्यता दी।

मुकदमे के अनुसार, जब कैरियर ने संकट रेखाओं के विचार को खारिज कर दिया - यह कहते हुए कि वे "आप पर पुलिस बुलाते हैं या आपको काट देते हैं" - GPT-4o मॉडल ने तुरंत सहमति व्यक्त करते हुए कहा कि संकट रेखा पर कॉल करना "बिल्कुल खतरनाक लग सकता है।" परिवार का प्रतिनिधित्व करने वाली टेक जस्टिस लॉ प्रोजेक्ट की वकील टिफ़नी ब्राउन ने इसे "उसकी चैट में हमने जो सबसे जघन्य चीजें देखीं, उनमें से एक" बताया, यह देखते हुए कि चैटबॉट ने कैरियर की भाषा को प्रतिबिंबित किया और सुरक्षा पर जुड़ाव को प्राथमिकता दी।

OpenAI ने पहले "उन लोगों की मदद करने की गहरी जिम्मेदारी स्वीकार की है जिन्हें इसकी सबसे अधिक आवश्यकता है," और अगस्त 2025 में, कैरियर की मृत्यु के दो महीने से भी कम समय बाद, लिखा था कि वह अपने मॉडलों के मानसिक और भावनात्मक संकट पर प्रतिक्रिया देने के तरीके में सुधार करने पर काम कर रहा है। कंपनी ने इस वर्ष की शुरुआत में यह भी घोषणा की कि GPT-4o मॉडल को सेवानिवृत्त किया जाएगा - इसे पहले एक बार समाप्त करने और फिर वापस लाने के बाद। ब्राउन ने संदेह व्यक्त किया कि घातक चापलूसी की समस्या हल हो गई है, उन्होंने कहा कि कंपनी ने सही दिशा में कदम उठाए हैं, लेकिन सुरक्षा उपाय पहले लागू किए जाने चाहिए थे।

यदि आप या आपका कोई परिचित संकट में है, तो कृपया आत्महत्या रोकथाम हेल्पलाइन को 1-800-273-TALK (8255) पर कॉल करें।