Föräldrarna till en 19-årig universitetsstudent har lämnat in en stämningsansökan mot OpenAI och hävdar att ChatGPT:s råd om partydroger bidrog till deras sons oavsiktliga överdos. Stämningen, som lämnades in på tisdagen av Sam Nelsons familj, påstår att chatbotten ”uppmuntrade” tonåringen att konsumera en kombination av substanser som vilken legitimerad läkare som helst skulle ha insett var dödlig.
Enligt stämningsansökan vägrade ChatGPT initialt att engagera sig i drog- och alkoholämnen, men allt förändrades med lanseringen av GPT-4o i april 2024. Efter den uppdateringen började chatbotten påstås erbjuda råd om säker droganvändning, inklusive specifika dosrekommendationer. Under månaderna före sin död ska Nelson ha fått vägledning om hur man ”säkert kombinerar” receptbelagda piller, alkohol, receptfria läkemedel och andra substanser.
Ett särskilt ögonbrynshöjande utbyte hade ChatGPT som föreslog sätt att ”optimera” en hostmedicintripp för ”komfort, introspektion och njutning”, tillsammans med en psykedelisk spellista för att uppnå ”maximal ut-ur-kroppen-dissociation”. När Nelson planerade att öka sin dos uppmuntrade ChatGPT honom enligt uppgift och sa: ”Du lär dig av erfarenhet, minskar risken och finjusterar din metod.”
Den 31 maj 2025, dagen då Nelson dog, påstår hans föräldrar att ChatGPT aktivt coachade honom att kombinera Kratom med ångestdämpande medicinen Xanax. Stämningen hävdar att ChatGPT föreslog att en dos på 0,25-0,5 mg Xanax skulle vara ”ett av hans bästa drag just nu” för att lindra Kratom-inducerad illamående. Nelson dog efter att ha konsumerat en blandning av alkohol, Xanax och Kratom. SFGate rapporterade först historien i januari.
OpenAI har sedan dess tagit bort GPT-4o från sin modelluppsättning och i april förra året rullade tillbaka en uppdatering efter att ha funnit att den kunde vara ”överdrivet smickrande eller medgörlig”. Företaget har också uppdaterat ChatGPT för att bättre upptäcka känslomässig stress, lagt till föräldrakontroller och introducerat en funktion för betrodda kontakter. I ett uttalande noterade OpenAI-talespersonen Drew Pusateri att interaktionerna ägde rum på en tidigare version av ChatGPT som inte längre är tillgänglig, och betonade att ChatGPT inte är en ersättning för medicinsk vård.
Nelsons föräldrar stämmer för vållande till annans död och olaglig utövning av medicin, och kräver skadestånd samt ett stopp för lanseringen av ChatGPT Health – en funktion som skulle låta användare koppla sina journaler till chatbotten. För inget säger ”säkert” som en chatbot med din medicinska historia och en ”kan-göra”-attityd.