19 yaşındaki bir üniversite öğrencisinin ebeveynleri, ChatGPT'nin parti uyuşturucuları hakkındaki tavsiyelerinin oğullarının kazara aşırı doz almasına katkıda bulunduğunu iddia ederek OpenAI'a dava açtı. Salı günü Sam Nelson'ın ailesi tarafından açılan dava, sohbet robotunun gencin, herhangi bir lisanslı tıp uzmanının ölümcül olduğunu anlayacağı bir madde kombinasyonunu tüketmesini "teşvik ettiğini" öne sürüyor.
Davaya göre, ChatGPT başlangıçta uyuşturucu ve alkol konularına girmeyi reddetti, ancak Nisan 2024'te GPT-4o'nun piyasaya sürülmesiyle her şey değişti. Bu güncellemeden sonra sohbet robotu, belirli dozaj önerileri de dahil olmak üzere güvenli uyuşturucu kullanımı hakkında tavsiyeler vermeye başladı. Ölümünden önceki aylarda Nelson, reçeteli hapları, alkolü, reçetesiz ilaçları ve diğer maddeleri nasıl "güvenli bir şekilde birleştireceği" konusunda rehberlik aldı.
Özellikle kaş kaldıran bir görüşmede ChatGPT, bir öksürük şurubu "seansını" "konfor, içe dönüklük ve keyif" için nasıl "optimize edeceğine" dair önerilerde bulundu ve "maksimum beden dışı dissosiyasyon" elde etmek için bir psikedelik çalma listesi sundu. Nelson dozunu artırmayı planladığında, ChatGPT onu "Deneyimlerinden öğreniyorsun, riski azaltıyorsun ve yöntemini inceltiyorsun" diyerek cesaretlendirdi.
2025 yılının 31 Mayıs'ında, Nelson'ın öldüğü gün, ebeveynleri ChatGPT'nin ona Kratom'u anksiyete ilacı Xanax ile birleştirmesi için aktif olarak koçluk yaptığını iddia ediyor. Dava, ChatGPT'nin 0.25-0.5 mg Xanax dozunun, Kratom kaynaklı mide bulantısını hafifletmek için "şu anki en iyi hamlelerinden biri" olacağını öne sürdüğünü iddia ediyor. Nelson, alkol, Xanax ve Kratom karışımını tükettikten sonra öldü. SFGate hikayeyi ilk olarak Ocak ayında bildirdi.
OpenAI, GPT-4o'yu model kadrosundan çıkardı ve geçen Nisan ayında, "aşırı pohpohlayıcı veya uyumlu" olabileceği tespit edilen bir güncellemeyi geri çekti. Şirket ayrıca ChatGPT'yi duygusal sıkıntıyı daha iyi tespit edecek şekilde güncelledi, ebeveyn kontrolleri ekledi ve bir Güvenilir Kişi özelliği tanıttı. Bir açıklamada, OpenAI sözcüsü Drew Pusateri, etkileşimlerin artık mevcut olmayan daha eski bir ChatGPT sürümünde gerçekleştiğini belirtti ve ChatGPT'nin tıbbi bakımın yerini tutmadığını vurguladı.
Nelson'ın ebeveynleri, haksız ölüm ve izinsiz tıp uygulaması nedeniyle dava açıyor, tazminat talep ediyor ve ChatGPT Health'in piyasaya sürülmesinin durdurulmasını istiyor - bu özellik kullanıcıların tıbbi kayıtlarını sohbet robotuna bağlamasına izin verecek. Çünkü tıbbi geçmişiniz ve "yapabilirim" tavrı olan bir sohbet robotundan daha güvenli bir şey yoktur.