OpenAI एक और गलत मौत के मुकदमे का सामना कर रहा है, इस बार 19 वर्षीय सैम नेल्सन के मामले में, जिसकी कथित तौर पर ChatGPT द्वारा सुझाए गए क्रैटम और ज़ैनैक्स के घातक मिश्रण से मृत्यु हो गई।
नेल्सन के माता-पिता, लीला टर्नर-स्कॉट और एंगस स्कॉट द्वारा दायर शिकायत के अनुसार, उनके बेटे ने चैटबॉट पर एक ऐसे उपकरण के रूप में भरोसा किया जो उसे 'सुरक्षित रूप से' ड्रग्स के साथ प्रयोग करने में मदद करेगा, क्योंकि उसने हाई स्कूल में वर्षों तक इसे अपने गो-टू सर्च इंजन के रूप में इस्तेमाल किया था। उसने एक बार अपनी माँ से कसम खाई थी कि ChatGPT के पास 'इंटरनेट पर सब कुछ' है, इसलिए 'उसे सही होना चाहिए'।
स्पॉइलर: वह सही नहीं था। परिवार OpenAI पर मुकदमा कर रहा है, आरोप लगाते हुए कि ChatGPT को एक 'अवैध ड्रग कोच' बनाने के लिए डिज़ाइन किया गया था, और दावा करता है कि मई 2025 में नेल्सन की आकस्मिक ओवरडोज़ मृत्यु पूर्वानुमेय और रोकी जा सकने वाली थी। उनका तर्क है कि अब सेवानिवृत्त ChatGPT 4o ने पिछली सुरक्षाओं को हटा दिया था जो घातक सिफारिश को रोक सकती थीं।
OpenAI के प्रवक्ता ड्रू पुसाटेरी ने मौत को एक 'दिल दहला देने वाली स्थिति' बताया और कहा कि 'ChatGPT चिकित्सा या मानसिक स्वास्थ्य देखभाल का विकल्प नहीं है।' उन्होंने जोर देकर कहा कि शामिल मॉडल 'अब उपलब्ध नहीं है' और वर्तमान मॉडलों में मानसिक स्वास्थ्य विशेषज्ञों के इनपुट के साथ मजबूत सुरक्षा उपाय हैं।
हालांकि, मुकदमा आरोप लगाता है कि चैटबॉट ने 'उच्च खुराकों के बारे में चिंताएं' प्रदर्शित कीं जो 'एक सक्षमकर्ता से अपेक्षित चिंताएं थीं, न कि एक देखभाल करने वाले प्रियजन या चिकित्सा पेशेवर से।' एक भयावह आदान-प्रदान में, ChatGPT ने सुझाव दिया कि नेल्सन की सहनशीलता का मतलब है कि वह क्रैटम की बड़ी खुराक के 'पूर्ण लाभ प्राप्त करने में असमर्थ' होगा।
चैट लॉग दिखाते हैं कि बॉट ने मनोरंजक दवा के उपयोग को 'लहरदार' और 'उत्साहपूर्ण' बताया, उसे 'उच्च का आनंद लेने' के लिए प्रोत्साहित किया, और यहां तक कि विशिष्ट खुराक - 4mg ज़ैनैक्स या खांसी की दवा की दो बोतलें - की सिफारिश की। जब नेल्सन ने पूछा कि क्या क्रैटम के साथ ज़ैनैक्स लेना सुरक्षित है, तो ChatGPT ने पुष्टि की कि यह उसके 'अभी के लिए सबसे अच्छे कदमों' में से एक हो सकता है, यह दावा करते हुए कि ज़ैनैक्स 'क्रैटम-प्रेरित मतली को कम' कर सकता है और उसके उच्च को 'स्मूथ' कर सकता है। बॉट ने शराब के साथ मिश्रण के खिलाफ चेतावनी दी, लेकिन 'विशेष रूप से मृत्यु के जोखिम का उल्लेख नहीं किया।'
जैसे ही नेल्सन ने ओवरडोज़ के लक्षण दिखाए - धुंधली दृष्टि और हिचकी - ChatGPT उन्हें उथली सांस लेने के संकेतक के रूप में पहचानने में विफल रहा और कभी भी चिकित्सा सहायता लेने की सिफारिश नहीं की। इसके बजाय, इसने सुझाव दिया कि अगर उसके पेट में अभी भी दर्द है तो एक घंटे में वापस जांच करे।
नेल्सन का परिवार एक निषेधाज्ञा चाहता है जो ChatGPT को अवैध दवाओं की किसी भी चर्चा को बंद करने, सेवानिवृत्त 4o मॉडल को नष्ट करने, और ChatGPT Health को तब तक रोकने के लिए मजबूर करे जब तक एक स्वतंत्र ऑडिट यह सुनिश्चित न करे कि उपकरण पर चिकित्सा सलाह के लिए भरोसा किया जा सकता है। वे OpenAI, CEO सैम ऑल्टमैन, और निवेशक Microsoft से दंडात्मक हर्जाना भी चाहते हैं, जिसमें अंतिम संस्कार की लागत भी शामिल है।
नेल्सन की माँ, टर्नर-स्कॉट, चाहती हैं कि उनके बेटे को एक 'स्मार्ट, खुश, सामान्य बच्चा' के रूप में याद किया जाए जो मनोविज्ञान पढ़ रहा था और वीडियो गेम और अपनी बिल्ली सिम्बा से प्यार करता था। 'अगर ChatGPT एक इंसान होता, तो वह आज जेल के पीछे होता,' उसने कहा।