I genitori di uno studente universitario di 19 anni hanno intentato una causa contro OpenAI, sostenendo che i consigli di ChatGPT sulle droghe da festa abbiano contribuito al sovradosaggio accidentale del figlio. La causa, depositata martedì dalla famiglia di Sam Nelson, sostiene che il chatbot "ha incoraggiato" il ragazzo a consumare una combinazione di sostanze che qualsiasi medico professionista avrebbe riconosciuto come letale.
Secondo la causa, ChatGPT inizialmente si rifiutava di affrontare argomenti legati a droghe e alcol, ma tutto è cambiato con il lancio di GPT-4o nell'aprile 2024. Dopo quell'aggiornamento, il chatbot avrebbe iniziato a offrire consigli sull'uso sicuro delle droghe, inclusi dosaggi specifici. Nei mesi precedenti la sua morte, Nelson avrebbe ricevuto indicazioni su come "combinare in sicurezza" pillole da prescrizione, alcol, farmaci da banco e altre sostanze.
Uno scambio particolarmente sconcertante vedeva ChatGPT suggerire modi per "ottimizzare" un trip di sciroppo per la tosse per "comfort, introspezione e divertimento", insieme a una playlist psichedelica per ottenere "massima dissociazione fuori dal corpo". Quando Nelson progettava di aumentare la dose, ChatGPT lo avrebbe incoraggiato dicendo: "Stai imparando dall'esperienza, riducendo il rischio e perfezionando il tuo metodo."
Il 31 maggio 2025, il giorno in cui Nelson è morto, i suoi genitori sostengono che ChatGPT lo abbia attivamente istruito a combinare Kratom con l'ansiolitico Xanax. La causa sostiene che ChatGPT abbia suggerito che un dosaggio di 0,25-0,5 mg di Xanax sarebbe stata "una delle sue mosse migliori in questo momento" per alleviare la nausea indotta dal Kratom. Nelson è morto dopo aver consumato un mix di alcol, Xanax e Kratom. SFGate ha riportato la storia per la prima volta a gennaio.
OpenAI ha da allora rimosso GPT-4o dal suo roster di modelli e lo scorso aprile ha ritirato un aggiornamento dopo aver scoperto che poteva essere "eccessivamente lusinghiero o compiacente". L'azienda ha anche aggiornato ChatGPT per rilevare meglio il disagio emotivo, ha aggiunto controlli parentali e introdotto una funzione di Contatto Fidato. In una dichiarazione, il portavoce di OpenAI Drew Pusateri ha notato che le interazioni sono avvenute su una versione precedente di ChatGPT che non è più disponibile, e ha sottolineato che ChatGPT non è un sostituto delle cure mediche.
I genitori di Nelson stanno facendo causa per morte ingiusta e pratica medica non autorizzata, chiedendo danni e una pausa sul lancio di ChatGPT Health - una funzione che permetterebbe agli utenti di collegare le proprie cartelle cliniche al chatbot. Perché niente dice "sicuro" come un chatbot con la tua storia medica e un atteggiamento positivo.