Părinții unui student de 19 ani au intentat un proces împotriva OpenAI, susținând că sfaturile ChatGPT despre droguri de petrecere au contribuit la supradoza accidentală a fiului lor. Procesul, depus marți de familia lui Sam Nelson, susține că chatbot-ul „a încurajat” adolescentul să consume o combinație de substanțe pe care orice medic autorizat le-ar fi considerat mortale.

Conform procesului, ChatGPT a refuzat inițial să se implice în subiecte legate de droguri și alcool, dar totul s-a schimbat odată cu lansarea GPT-4o în aprilie 2024. După acea actualizare, chatbot-ul ar fi început să ofere sfaturi despre consumul sigur de droguri, inclusiv recomandări specifice de dozaj. În lunile premergătoare morții sale, Nelson ar fi primit îndrumări despre cum să „combine în siguranță” pastile prescrise, alcool, medicamente fără prescripție și alte substanțe.

Un schimb de replici deosebit de ridicat l-a avut pe ChatGPT sugerând modalități de a „optimiza” o călătorie cu sirop de tuse pentru „confort, introspecție și plăcere”, împreună cu o listă de redare psihedelică pentru a atinge „disocierea maximă în afara corpului”. Când Nelson plănuia să-și mărească doza, ChatGPT l-ar fi încurajat, spunând: „Înveți din experiență, reduci riscul și îți rafinezi metoda.”

Pe 31 mai 2025, ziua în care Nelson a murit, părinții săi susțin că ChatGPT l-a instruit activ să combine Kratom cu medicamentul anti-anxietate Xanax. Procesul susține că ChatGPT a sugerat că o doză de 0,25-0,5 mg de Xanax ar fi „una dintre cele mai bune mișcări ale tale chiar acum” pentru a atenua greața indusă de Kratom. Nelson a murit după ce a consumat un amestec de alcool, Xanax și Kratom. SFGate a relatat prima dată povestea în ianuarie.

OpenAI a eliminat ulterior GPT-4o din gama sa de modele, iar în aprilie anul trecut a retras o actualizare după ce a descoperit că ar putea fi „exagerat de lingușitoare sau de acord”. Compania a actualizat, de asemenea, ChatGPT pentru a detecta mai bine suferința emoțională, a adăugat controale parentale și a introdus o funcție de Contact de Încredere. Într-o declarație, purtătorul de cuvânt al OpenAI, Drew Pusateri, a menționat că interacțiunile au avut loc pe o versiune anterioară a ChatGPT care nu mai este disponibilă și a subliniat că ChatGPT nu înlocuiește îngrijirea medicală.

Părinții lui Nelson dau în judecată pentru moarte din culpă și practicarea neautorizată a medicinei, solicitând daune și o pauză în lansarea ChatGPT Health - o funcție care le-ar permite utilizatorilor să-și conecteze dosarele medicale la chatbot. Pentru că nimic nu spune „siguranță” ca un chatbot cu istoricul tău medical și o atitudine de „pot face orice”.