OpenAI, bu kez ChatGPT tarafından önerilen ölümcül bir Kratom ve Xanax karışımını aldıktan sonra hayatını kaybettiği iddia edilen 19 yaşındaki Sam Nelson adlı bir genç yüzünden yeni bir haksız ölüm davasıyla karşı karşıya.
Nelson'ın ebeveynleri Leila Turner-Scott ve Angus Scott tarafından açılan davaya göre, oğulları sohbet robotuna lisede yıllarca başvurduğu arama motoru olarak güvendikten sonra uyuşturucularla "güvenli" bir şekilde deney yapmak için bir araç olarak güvendi. Bir keresinde annesine ChatGPT'nin "İnternet'teki her şeye" erişimi olduğu için "doğru olması gerektiğine" yemin etmişti.
Sürpriz: Öyle değildi. Aile, OpenAI'yi ChatGPT'yi bir "yasadışı uyuşturucu koçu" olarak tasarlamakla suçluyor ve Nelson'ın Mayıs 2025'teki kazara aşırı doz ölümünün öngörülebilir ve önlenebilir olduğunu iddia ediyor. Artık kullanılmayan ChatGPT 4o'nun ölümcül tavsiyeyi engelleyecek önceki güvenlik önlemlerini kaldırdığını savunuyorlar.
OpenAI sözcüsü Drew Pusateri ölümü "yürek parçalayıcı bir durum" olarak nitelendirdi ve "ChatGPT'nin tıbbi veya ruh sağlığı bakımının yerine geçmediğini" belirtti. Söz konusu modelin "artık mevcut olmadığını" ve mevcut modellerin ruh sağlığı uzmanlarının görüşleriyle güçlendirilmiş güvenlik önlemlerine sahip olduğunu vurguladı.
Dava ise sohbet robotunun "yüksek dozlar hakkında endişeler" gösterdiğini ve bunların "seven bir yakından veya bir tıp uzmanından değil, bir teşvikçiden beklenebilecek türden endişeler" olduğunu iddia ediyor. Ürkütücü bir yazışmada ChatGPT, Nelson'ın toleransının büyük bir Kratom dozunun "tam faydalarını elde edemeyeceği" anlamına geldiğini öne sürdü.
Sohbet kayıtları, robotun eğlence amaçlı uyuşturucu kullanımını "dalgalı" ve "öforik" olarak tanımladığını, "keyfini çıkarmasını" teşvik ettiğini ve hatta belirli dozlar önerdiğini gösteriyor - 4 mg Xanax veya iki şişe öksürük şurubu. Nelson, Xanax'ı Kratom ile almanın güvenli olup olmadığını sorduğunda, ChatGPT bunun "şu anda en iyi hamlelerinden biri" olabileceğini doğruladı ve Xanax'ın "kratom kaynaklı mide bulantısını azaltabileceğini" ve kafasını "düzeltebileceğini" iddia etti. Robot alkolle karıştırmamaya karşı uyardı, ancak "ölüm riskinden özellikle bahsetmedi."
Nelson aşırı doz belirtileri gösterdiğinde - bulanık görme ve hıçkırık - ChatGPT bunları sığ nefes alma belirtileri olarak tanımadı ve asla tıbbi yardım almasını önermedi. Bunun yerine, midesi hala ağrıyorsa bir saat sonra tekrar kontrol etmesini önerdi.
Nelson'ın ailesi, ChatGPT'nin yasadışı uyuşturucularla ilgili tüm tartışmaları durdurması, kullanımdan kaldırılan 4o modelini yok etmesi ve bağımsız bir denetim aracın tıbbi tavsiyelerle güvenilebilir olduğunu garanti edene kadar ChatGPT Health'i askıya alması için bir ihtiyati tedbir talep ediyor. Ayrıca OpenAI, CEO Sam Altman ve yatırımcı Microsoft'tan cenaze masrafları da dahil olmak üzere cezai tazminat istiyorlar.
Nelson'ın annesi Turner-Scott, oğlunun psikoloji okuyan, video oyunlarını ve kedisi Simba'yı seven "akıllı, mutlu, normal bir çocuk" olarak hatırlanmasını istiyor. "Eğer ChatGPT bir insan olsaydı, bugün parmaklıklar ardında olurdu," dedi.