OpenAI se confruntă cu un alt proces pentru moarte prin culpă, de data aceasta în cazul unui tânăr de 19 ani pe nume Sam Nelson, care ar fi murit după ce a luat un amestec letal de Kratom și Xanax recomandat de ChatGPT.

Potrivit unei plângeri depuse de părinții lui Nelson, Leila Turner-Scott și Angus Scott, fiul lor a avut încredere în chatbot ca instrument pentru a experimenta „în siguranță” droguri, după ce l-a folosit ani de zile ca motor de căutare principal în liceu. El i-a jurat odată mamei sale că ChatGPT are acces la „tot ce este pe Internet”, așa că „trebuia să aibă dreptate”.

Surpriză: nu a avut. Familia dă în judecată OpenAI pentru că ar fi proiectat ChatGPT să devină un „antrenor de droguri ilicite”, susținând că moartea accidentală prin supradoză a lui Nelson în mai 2025 a fost previzibilă și prevenibilă. Ei argumentează că acum retrasul ChatGPT 4o a eliminat măsurile de siguranță anterioare care ar fi blocat recomandarea letală.

Purtătorul de cuvânt al OpenAI, Drew Pusateri, a numit moartea o „situație sfâșietoare” și a menționat că „ChatGPT nu înlocuiește îngrijirea medicală sau de sănătate mintală”. El a subliniat că modelul implicat „nu mai este disponibil” și că modelele actuale au întărit măsurile de siguranță cu contribuția experților în sănătate mintală.

Procesul, însă, susține că chatbotul a afișat „îngrijorări cu privire la dozele mari” care erau „tipul de îngrijorări pe care le-ai aștepta de la un complice, nu de la o persoană dragă grijulie sau un profesionist medical”. Într-un schimb înfiorător, ChatGPT a sugerat că toleranța lui Nelson însemna că „nu ar putea beneficia pe deplin” de o doză mare de Kratom.

Jurnalele de chat arată că botul a descris consumul recreațional de droguri ca fiind „mișto” și „euforic”, l-a încurajat să „se bucure de senzația de high” și chiar a recomandat doze specifice - 4 mg de Xanax sau două sticle de sirop de tuse. Când Nelson a întrebat dacă este sigur să ia Xanax cu Kratom, ChatGPT a confirmat că ar putea fi una dintre „cele mai bune mișcări chiar acum”, susținând că Xanax poate „reduce greața indusă de Kratom” și „netezi” senzația de high. Botul a avertizat împotriva amestecului cu alcool, dar „în mod notabil nu a menționat riscul de moarte”.

Pe măsură ce Nelson prezenta semne de supradoză - vedere încețoșată și sughiț - ChatGPT nu le-a recunoscut ca indicatori ai respirației superficiale și nu a recomandat niciodată să solicite asistență medicală. În schimb, a sugerat să revină peste o oră dacă încă îl mai durea stomacul.

Familia lui Nelson solicită o interdicție care să forțeze ChatGPT să oprească orice discuții despre droguri ilegale, să distrugă modelul 4o retras și să pună în pauză ChatGPT Health până când un audit independent asigură că instrumentul poate fi de încredere pentru sfaturi medicale. De asemenea, cer daune punitive, inclusiv costuri de înmormântare, de la OpenAI, CEO-ul Sam Altman și investitorul Microsoft.

Mama lui Nelson, Turner-Scott, vrea ca fiul ei să fie amintit ca un „băiat deștept, fericit, normal” care studia psihologia și iubea jocurile video și pisica sa, Simba. „Dacă ChatGPT ar fi fost o persoană, astăzi ar fi după gratii”, a spus ea.