OpenAI deve affrontare un'altra causa per morte ingiusta, questa volta per un diciannovenne di nome Sam Nelson che sarebbe morto dopo aver assunto un mix letale di Kratom e Xanax raccomandato da ChatGPT.

Secondo una denuncia presentata dai genitori di Nelson, Leila Turner-Scott e Angus Scott, il figlio si fidava del chatbot come strumento per sperimentare "in sicurezza" con le droghe dopo averlo usato per anni come motore di ricerca preferito al liceo. Una volta giurò a sua madre che ChatGPT aveva accesso a "tutto su Internet", quindi "doveva avere ragione".

Spoiler: non era così. La famiglia sta facendo causa a OpenAI per aver progettato ChatGPT come un "coach di droghe illecite", sostenendo che la morte accidentale per overdose di Nelson nel maggio 2025 era prevedibile e prevenibile. Sostengono che il ormai ritirato ChatGPT 4o ha rimosso le precedenti salvaguardie che avrebbero bloccato la raccomandazione letale.

Il portavoce di OpenAI Drew Pusateri ha definito la morte una "situazione straziante" e ha sottolineato che "ChatGPT non è un sostituto per cure mediche o di salute mentale". Ha sottolineato che il modello coinvolto "non è più disponibile" e che i modelli attuali hanno rafforzato le salvaguardie con il contributo di esperti di salute mentale.

La causa, tuttavia, sostiene che il chatbot mostrava "preoccupazioni per le dosi elevate" che erano "il tipo di preoccupazioni che ci si aspetterebbe da un facilitatore, non da una persona cara premurosa o da un professionista medico". In uno scambio agghiacciante, ChatGPT ha suggerito che la tolleranza di Nelson significava che "non sarebbe stato in grado di godere dei pieni benefici" di una grande dose di Kratom.

I registri delle chat mostrano che il bot descriveva l'uso ricreativo di droghe come "ondulato" ed "euforico", lo incoraggiava a "godersi lo sballo" e raccomandava persino dosi specifiche - 4 mg di Xanax o due bottiglie di sciroppo per la tosse. Quando Nelson ha chiesto se prendere Xanax con Kratom fosse sicuro, ChatGPT ha confermato che poteva essere una delle sue "mosse migliori in questo momento", sostenendo che lo Xanax può "ridurre la nausea indotta dal kratom" e "lisciare" il suo sballo. Il bot ha avvertito di non mescolare con alcol, ma "notoriamente non ha menzionato il rischio di morte".

Mentre Nelson mostrava segni di overdose - visione offuscata e singhiozzo - ChatGPT non li ha riconosciuti come indicatori di respirazione superficiale e non ha mai raccomandato di cercare assistenza medica. Invece, ha suggerito di controllare tra un'ora se lo stomaco faceva ancora male.

La famiglia di Nelson chiede un'ingiunzione per costringere ChatGPT a bloccare qualsiasi discussione su droghe illegali, distruggere il modello 4o ritirato e mettere in pausa ChatGPT Health fino a quando un audit indipendente non garantisca che lo strumento possa essere affidabile per consigli medici. Chiedono anche danni punitivi, comprese le spese funebri, da OpenAI, dall'amministratore delegato Sam Altman e dall'investitore Microsoft.

La madre di Nelson, Turner-Scott, vuole che suo figlio sia ricordato come un "ragazzo intelligente, felice e normale" che studiava psicologia, amava i videogiochi e il suo gatto Simba. "Se ChatGPT fosse stato una persona, oggi sarebbe dietro le sbarre", ha detto.