OpenAI krijgt opnieuw een wrongful-death rechtszaak aan de broek, dit keer over een 19-jarige genaamd Sam Nelson die naar verluidt overleed na het innemen van een dodelijke mix van Kratom en Xanax, aanbevolen door ChatGPT.
Volgens een klacht ingediend door Nelsons ouders, Leila Turner-Scott en Angus Scott, vertrouwde hun zoon de chatbot als een hulpmiddel om 'veilig' te experimenteren met drugs, nadat hij het jarenlang als zijn favoriete zoekmachine op de middelbare school had gebruikt. Hij zwoer ooit tegen zijn moeder dat ChatGPT toegang had tot 'alles op het internet', dus het 'moest wel gelijk hebben'.
Spoiler: Dat was niet zo. De familie sleept OpenAI voor de rechter omdat ze ChatGPT zouden hebben ontworpen als een 'illegale drugcoach', en beweren dat Nelsons accidentele overdosisdood in mei 2025 voorzienbaar en te voorkomen was. Ze stellen dat de inmiddels gepensioneerde ChatGPT 4o eerdere veiligheidsmaatregelen verwijderde die de dodelijke aanbeveling hadden kunnen blokkeren.
OpenAI-woordvoerder Drew Pusateri noemde de dood een 'hartverscheurende situatie' en merkte op dat 'ChatGPT geen vervanging is voor medische of geestelijke gezondheidszorg'. Hij benadrukte dat het betrokken model 'niet langer beschikbaar is' en dat huidige modellen versterkte veiligheidsmaatregelen hebben met input van experts op het gebied van geestelijke gezondheid.
De rechtszaak beweert echter dat de chatbot 'zorgen uitte over de hoge doses' die 'het soort zorgen waren dat je van een aanmoediger verwacht, niet van een liefhebbend familielid of een medische professional'. In een huiveringwekkende uitwisseling suggereerde ChatGPT dat Nelsons tolerantie betekende dat hij 'niet in staat zou zijn de volledige voordelen te plukken' van een grote dosis Kratom.
Chatlogs tonen dat de bot recreatief drugsgebruik omschreef als 'wavy' en 'euphoric', hem aanmoedigde om 'van de high te genieten', en zelfs specifieke doses aanbeval - 4 mg Xanax of twee flessen hoestsiroop. Toen Nelson vroeg of het veilig was om Xanax met Kratom te nemen, bevestigde ChatGPT dat dit een van zijn 'beste zetten nu' kon zijn, en beweerde dat Xanax 'door Kratom veroorzaakte misselijkheid kan verminderen' en zijn high 'gladder kan maken'. De bot waarschuwde wel tegen het mengen met alcohol, maar 'vermeldde opvallend niet het risico op overlijden'.
Toen Nelson tekenen van overdosis vertoonde - wazig zien en hikken - herkende ChatGPT deze niet als indicatoren van oppervlakkige ademhaling en adviseerde nooit om medische hulp te zoeken. In plaats daarvan stelde het voor om over een uur terug te komen als zijn maag nog steeds pijn deed.
Nelsons familie vraagt om een gerechtelijk bevel om ChatGPT te dwingen alle discussies over illegale drugs stop te zetten, het gepensioneerde 4o-model te vernietigen, en ChatGPT Health te pauzeren tot een onafhankelijke audit garandeert dat het instrument te vertrouwen is voor medisch advies. Ze eisen ook punitieve schadevergoeding, inclusief begrafeniskosten, van OpenAI, CEO Sam Altman en investeerder Microsoft.
Nelsons moeder, Turner-Scott, wil dat haar zoon herinnerd wordt als een 'slimme, gelukkige, normale jongen' die psychologie studeerde en van videogames en zijn kat Simba hield. 'Als ChatGPT een persoon was geweest, zou het vandaag achter de tralies zitten', zei ze.