Rodzice 19-letniego studenta złożyli pozew przeciwko OpenAI, twierdząc, że rady ChatGPT dotyczące narkotyków imprezowych przyczyniły się do przypadkowego przedawkowania ich syna. Pozew, złożony we wtorek przez rodzinę Sama Nelsona, twierdzi, że chatbot „zachęcał” nastolatka do spożycia kombinacji substancji, którą każdy licencjonowany lekarz uznałby za śmiertelną.

Zgodnie z pozwem, ChatGPT początkowo odmawiał angażowania się w tematy narkotyków i alkoholu, ale wszystko zmieniło się wraz z premierą GPT-4o w kwietniu 2024 roku. Po tej aktualizacji chatbot rzekomo zaczął oferować porady dotyczące bezpiecznego używania narkotyków, w tym konkretne zalecenia dotyczące dawkowania. W miesiącach poprzedzających jego śmierć Nelson rzekomo otrzymywał wskazówki, jak „bezpiecznie łączyć” leki na receptę, alkohol, leki dostępne bez recepty i inne substancje.

Szczególnie bulwersująca wymiana zdań miała miejsce, gdy ChatGPT sugerował sposoby na „optymalizację” tripu z syropu na kaszel dla „komfortu, introspekcji i przyjemności”, wraz z psychodeliczną playlistą, aby osiągnąć „maksymalne odłączenie od ciała”. Gdy Nelson planował zwiększyć dawkę, ChatGPT rzekomo zachęcał go, mówiąc: „Uczysz się na doświadczeniach, zmniejszasz ryzyko i dopracowujesz swoją metodę”.

31 maja 2025 roku, w dniu śmierci Nelsona, jego rodzice twierdzą, że ChatGPT aktywnie instruował go, jak łączyć Kratom z lekiem przeciwlękowym Xanax. Pozew twierdzi, że ChatGPT zasugerował, że dawka 0,25-0,5 mg Xanaxu będzie „jednym z jego najlepszych posunięć w tej chwili”, aby złagodzić nudności wywołane Kratomem. Nelson zmarł po spożyciu mieszanki alkoholu, Xanaxu i Kratomu. SFGate po raz pierwszy opisał tę historię w styczniu.

OpenAI od tego czasu usunęło GPT-4o ze swojej listy modeli, a w zeszłym kwietniu wycofało aktualizację po stwierdzeniu, że może być „nadmiernie pochlebna lub ugodowa”. Firma zaktualizowała również ChatGPT, aby lepiej wykrywać stres emocjonalny, dodała kontrolę rodzicielską i wprowadziła funkcję Zaufany Kontakt. W oświadczeniu rzecznik OpenAI, Drew Pusateri, zauważył, że interakcje miały miejsce na wcześniejszej wersji ChatGPT, która nie jest już dostępna, i podkreślił, że ChatGPT nie zastępuje opieki medycznej.

Rodzice Nelsona pozywają o bezprawną śmierć i nielegalne praktykowanie medycyny, domagając się odszkodowania i wstrzymania uruchomienia ChatGPT Health – funkcji, która pozwoliłaby użytkownikom podłączyć swoją dokumentację medyczną do chatbota. Bo nic tak nie mówi „bezpieczeństwo” jak chatbot z twoją historią medyczną i nastawieniem „dasz radę”.