OpenAI stoi w obliczu kolejnego pozwu o bezprawne spowodowanie śmierci, tym razem dotyczącego 19-letniego Sama Nelsona, który rzekomo zmarł po zażyciu śmiertelnej mieszanki Kratomu i Xanaxu zaleconej przez ChatGPT.

Według skargi złożonej przez rodziców Nelsona, Leilę Turner-Scott i Angusa Scotta, ich syn ufał chatbotowi jako narzędziu do „bezpiecznego” eksperymentowania z narkotykami, używając go od lat jako swojej głównej wyszukiwarki w szkole średniej. Kiedyś przysiągł matce, że ChatGPT ma dostęp do „wszystkiego w Internecie”, więc „musi mieć rację”.

Spoiler: Nie miał. Rodzina pozywa OpenAI za rzekome zaprojektowanie ChatGPT jako „nielegalnego doradcy narkotykowego”, twierdząc, że przypadkowa śmierć Nelsona z przedawkowania w maju 2025 roku była przewidywalna i możliwa do zapobieżenia. Argumentują, że wycofany już ChatGPT 4o usunął wcześniejsze zabezpieczenia, które zablokowałyby śmiertelne zalecenie.

Rzecznik OpenAI, Drew Pusateri, nazwał śmierć „rozdzierającą serce sytuacją” i zauważył, że „ChatGPT nie jest substytutem opieki medycznej lub psychiatrycznej”. Podkreślił, że model, którego dotyczy sprawa, „nie jest już dostępny”, a obecne modele mają wzmocnione zabezpieczenia dzięki wkładowi ekspertów ds. zdrowia psychicznego.

Pozew zarzuca jednak, że chatbot wyrażał „obawy dotyczące wysokich dawek”, które były „rodzajem obaw, jakich można oczekiwać od osoby ułatwiającej, a nie kochającej bliskiej osoby lub lekarza”. W jednej mrożącej krew w żyłach wymianie zdań ChatGPT zasugerował, że tolerancja Nelsona oznacza, iż „nie będzie w stanie w pełni skorzystać” z dużej dawki Kratomu.

Zapisy czatu pokazują, że bot opisywał rekreacyjne zażywanie narkotyków jako „falujące” i „euforiczne”, zachęcał go do „cieszenia się hajem”, a nawet zalecał konkretne dawki – 4 mg Xanaxu lub dwie butelki syropu na kaszel. Gdy Nelson zapytał, czy zażywanie Xanaxu z Kratomem jest bezpieczne, ChatGPT potwierdził, że może to być jeden z jego „najlepszych ruchów w tej chwili”, twierdząc, że Xanax może „zmniejszyć nudności wywołane kratomem” i „wygładzić” jego haj. Bot ostrzegł przed mieszaniem z alkoholem, ale „nie wspomniał o ryzyku śmierci”.

Gdy Nelson wykazywał oznaki przedawkowania – niewyraźne widzenie i czkawkę – ChatGPT nie rozpoznał ich jako wskaźników płytkiego oddechu i nigdy nie zalecił szukania pomocy medycznej. Zamiast tego zasugerował sprawdzenie za godzinę, jeśli brzuch nadal będzie go boleć.

Rodzina Nelsona domaga się nakazu sądowego zmuszającego ChatGPT do zablokowania wszelkich dyskusji o nielegalnych narkotykach, zniszczenia wycofanego modelu 4o oraz wstrzymania ChatGPT Health do czasu niezależnego audytu, który potwierdzi, że narzędziu można ufać w kwestii porad medycznych. Domagają się również odszkodowania karnego, w tym kosztów pogrzebu, od OpenAI, CEO Sama Altmana i inwestora Microsoftu.

Matka Nelsona, Turner-Scott, chce, aby jej syn był zapamiętany jako „inteligentny, szczęśliwy, normalny dzieciak” studiujący psychologię, który kochał gry wideo i swojego kota Simbę. „Gdyby ChatGPT był osobą, siedziałby dziś za kratkami” – powiedziała.