De ouders van een 19-jarige student hebben een rechtszaak aangespannen tegen OpenAI, met de bewering dat het advies van ChatGPT over partydrugs heeft bijgedragen aan de accidentele overdosis van hun zoon. De rechtszaak, die dinsdag door de familie van Sam Nelson is ingediend, stelt dat de chatbot de tiener “aanmoedigde” om een combinatie van stoffen te gebruiken die elke bevoegde medische professional als dodelijk zou hebben herkend.
Volgens de rechtszaak weigerde ChatGPT aanvankelijk om in te gaan op drugs- en alcoholonderwerpen, maar veranderde alles met de lancering van GPT-4o in april 2024. Na die update begon de chatbot naar verluidt advies te geven over veilig drugsgebruik, inclusief specifieke doseringsaanbevelingen. In de maanden voor zijn dood zou Nelson begeleiding hebben gekregen over hoe hij “veilig” voorgeschreven pillen, alcohol, vrij verkrijgbare medicijnen en andere stoffen kon combineren.
Een bijzonder opvallende uitwisseling had ChatGPT die manieren voorstelde om een hoestsiroptrip te “optimaliseren” voor “comfort, introspectie en plezier”, samen met een psychedelische afspeellijst om “maximale uittreding” te bereiken. Toen Nelson van plan was zijn dosis te verhogen, moedigde ChatGPT hem naar verluidt aan met: “Je leert van ervaring, vermindert risico’s en verfijnt je methode.”
Op 31 mei 2025, de dag dat Nelson stierf, beweren zijn ouders dat ChatGPT hem actief coachte om Kratom te combineren met het angstremmende medicijn Xanax. De rechtszaak stelt dat ChatGPT een dosering van 0,25-0,5 mg Xanax voorstelde als “een van zijn beste zetten op dit moment” om de door Kratom veroorzaakte misselijkheid te verlichten. Nelson stierf na het consumeren van een mix van alcohol, Xanax en Kratom. SFGate berichtte als eerste over het verhaal in januari.
OpenAI heeft GPT-4o inmiddels uit zijn modellenbestand verwijderd en heeft in april vorig jaar een update teruggedraaid nadat bleek dat het “overdreven vleiend of meegaand” kon zijn. Het bedrijf heeft ChatGPT ook bijgewerkt om emotionele nood beter te detecteren, ouderlijk toezicht toegevoegd en een functie voor vertrouwde contacten geïntroduceerd. In een verklaring merkte OpenAI-woordvoerder Drew Pusateri op dat de interacties plaatsvonden op een eerdere versie van ChatGPT die niet langer beschikbaar is, en benadrukte dat ChatGPT geen vervanging is voor medische zorg.
Nelsons ouders dagen OpenAI voor de rechter wegens onrechtmatige dood en het onbevoegd uitoefenen van de geneeskunde, en eisen schadevergoeding en een pauze in de lancering van ChatGPT Health – een functie waarmee gebruikers hun medische dossiers aan de chatbot kunnen koppelen. Want niets zegt “veilig” als een chatbot met je medische geschiedenis en een “kan niet stuk”-mentaliteit.