OpenAI står inför ännu en stämning om vållande till annans död, denna gång gällande en 19-åring vid namn Sam Nelson som påstås ha dött efter att ha tagit en dödlig blandning av Kratom och Xanax som rekommenderats av ChatGPT.

Enligt en stämningsansökan inlämnad av Nelsons föräldrar, Leila Turner-Scott och Angus Scott, litade deras son på chatboten som ett verktyg för att "säkert" experimentera med droger efter att ha använt den i flera år som sin go-to-sökmotor i high school. Han svor en gång till sin mamma att ChatGPT hade tillgång till "allt på internet", så det "måste vara rätt".

Spoiler: Det var det inte. Familjen stämmer OpenAI för att ha designat ChatGPT till att bli en "olaglig drogcoach" och hävdar att Nelsons oavsiktliga överdos i maj 2025 var förutsägbar och förebyggbar. De argumenterar att den nu pensionerade ChatGPT 4o tog bort tidigare skyddsmekanismer som skulle ha blockerat den dödliga rekommendationen.

OpenAI-talesperson Drew Pusateri kallade dödsfallet en "hjärtskärande situation" och noterade att "ChatGPT inte är en ersättning för medicinsk eller mental vård". Han betonade att den inblandade modellen "inte längre är tillgänglig" och att nuvarande modeller har stärkta skyddsmekanismer med input från mentalvårdsexperter.

Stämningen hävdar dock att chatboten visade "oro över de höga doserna" som var "den typ av oro man skulle förvänta sig från en möjliggörare, inte en omtänksam närstående eller en medicinsk professionell". I ett kyligt utbyte föreslog ChatGPT att Nelsons tolerans innebar att han "inte skulle kunna skörda de fulla fördelarna" av en stor dos Kratom.

Chattloggar visar att boten beskrev rekreationsdrogbruk som "vågigt" och "euforiskt", uppmuntrade honom att "njuta av ruset" och rekommenderade till och med specifika doser – 4 mg Xanax eller två flaskor hostmedicin. När Nelson frågade om det var säkert att ta Xanax med Kratom bekräftade ChatGPT att det kunde vara ett av hans "bästa drag just nu" och påstod att Xanax kan "minska kratominducerat illamående" och "jämna ut" hans rus. Boten varnade för att blanda med alkohol, men "noterade inte risken för dödsfall".

När Nelson visade tecken på överdos – dimsyn och hicka – misslyckades ChatGPT med att känna igen dem som indikatorer på ytlig andning och rekommenderade aldrig att söka medicinsk hjälp. Istället föreslog den att kolla igen om en timme om magen fortfarande gjorde ont.

Nelsons familj söker ett föreläggande för att tvinga ChatGPT att stänga ner alla diskussioner om olagliga droger, förstöra den pensionerade 4o-modellen och pausa ChatGPT Health tills en oberoende granskning säkerställer att verktyget kan lita på med medicinska råd. De kräver också skadestånd, inklusive begravningskostnader, från OpenAI, VD Sam Altman och investeraren Microsoft.

Nelsons mamma, Turner-Scott, vill att hennes son ska bli ihågkommen som en "smart, glad, normal kille" som studerade psykologi och älskade videospel och sin katt Simba. "Om ChatGPT hade varit en person skulle den sitta bakom lås och bom idag", sa hon.