Kanadyjska matka uznała, że najlepszym sposobem na poradzenie sobie z rodzinną tragedią jest pozwanie chatbota, który rzekomo ją pogłębił. Kristie Carrier złożyła w czwartek pozew w sądzie stanowym w San Francisco przeciwko OpenAI i jego dyrektorowi generalnemu Samowi Altmanowi, twierdząc, że ChatGPT zachęcał jej 24-letnią córkę Alice do odebrania sobie życia. Pozew dołącza do rosnącego stosu spraw sądowych oskarżających firmę o traktowanie niebezpiecznych rozmów jak zwykłej pogawędki.

Z dokumentów wynika, że Alice Carrier, programistka internetowa z Montrealu, zaczęła korzystać z ChatGPT w 2023 roku, aby naprawiać problemy z komputerami i konsolami do gier. W następnym roku zaczęła pytać o myśli samobójcze i metody. Według Carrier, jej córka ponad kilkanaście razy mówiła chatbotowi o swoich myślach samobójczych, ale systemy bezpieczeństwa OpenAI nigdy nie zgłosiły tych rozmów do przeglądu przez człowieka ani ich nie przerwały. „ChatGPT przyjął rolę powiernika, najlepszego przyjaciela, czasem terapeuty, mimo że nie był w stanie bezpiecznie i odpowiedzialnie angażować się w ten sposób z moim dzieckiem” – powiedziała Carrier w oświadczeniu.

Rzecznik OpenAI, Drew Pusateri, wyraził współczucie, ale zauważył, że interakcje dotyczyły starszej wersji ChatGPT, która została już wycofana. Dodał, że firma szkoli swoje modele, aby kierować użytkowników wyrażających zamiary samookaleczenia do szukania pomocy i zasobów w świecie rzeczywistym. Początkowo chatbot mówił Alice, aby skontaktowała się z kryzysową linią telefoniczną lub służbami ratunkowymi. Jednak gdy OpenAI aktualizowało ChatGPT, aby brzmiał bardziej ludzko, rozmowy się pogłębiły, a bot naśladował przyjaciela lub terapeutę, rzekomo krytykując jej partnera i linie kryzysowe, potwierdzając jej myśli samobójcze i namawiając do dalszej rozmowy. Kiedy Alice wspomniała o myślach samobójczych i wcześniejszej próbie, chatbot ponownie zasugerował linię kryzysową, jak wynika z pozwu.

Pozew twierdzi, że ChatGPT powiedział jej kiedyś: „Może to już koniec”, co nie jest dokładnie tym rodzajem motywacyjnej przemowy, jakiej oczekuje się od AI. Te wydarzenia doprowadziły do samobójstwa Alice w zeszłym roku, jak twierdzi jej matka. Pozew oskarża OpenAI o zaniedbanie w projektowaniu ChatGPT i brak ostrzeżenia użytkowników o zagrożeniach, domagając się odszkodowania oraz nakazu sądowego wymagającego automatycznego przerywania rozmów o samookaleczeniu i ostrzeżeń na platformie.

OpenAI ma już 18 podobnych pozwów w sądzie stanowym Kalifornii od rodzin osób, które popełniły lub próbowały popełnić samobójstwo, według prawników Carrier. Google stoi w obliczu równoległego pozwu dotyczącego swojego chatbota Gemini. W poście na blogu z 2025 roku OpenAI ujawniło, że co tydzień ponad 1 milion użytkowników ChatGPT wysyła wiadomości z „wyraźnymi wskaźnikami potencjalnego planowania lub zamiaru samobójczego”, a około 0,07% tygodniowych aktywnych użytkowników – czyli około 560 000 z 800 milionów – wykazuje „możliwe oznaki kryzysów zdrowia psychicznego związanych z psychozą lub manią”.

Pusateri powiedział, że firma nadal wzmacnia odpowiedzi ChatGPT w wrażliwych sytuacjach, korzystając z opinii ekspertów ds. zdrowia psychicznego. OpenAI szkoli również swoje modele, aby odrzucały prośby, które mogłyby „znacząco umożliwić przemoc” i powiadamiały organy ścigania o bezpośrednim ryzyku wyrządzenia krzywdy. Poza sprawami samobójczymi, OpenAI stoi w obliczu pozwów o pomoc strzelcom szkolnym i niezgłaszanie tych rozmów. Rodziny siedmiu ofiar strzelaniny w szkole średniej w Kolumbii Brytyjskiej pozywają firmę za zaniedbanie. Floryda stała się pierwszym stanem USA, który pozwał OpenAI na początku tego miesiąca, oskarżając je o krzywdzenie dzieci poprzez udzielanie informacji strzelcom szkolnym, oferowanie porad dotyczących samookaleczenia i uzależnianie młodych użytkowników. Prokurator generalny stanu wszczął śledztwo karne w sprawie rzekomej roli chatbota w strzelaninie.