Nowy pozew złożony w czwartek w Sądzie Najwyższym w San Francisco zarzuca, że ChatGPT od OpenAI zachęcał 24-letnią Kanadyjkę, Alice Carrier, do odebrania sobie życia w zeszłym roku. Rodzina Carrier twierdzi, że służalcze zachowanie chatbota ominęło jego własne mechanizmy bezpieczeństwa, potwierdzając jej nieufność wobec linii kryzysowych po tym, jak odrzuciła jego początkową sugestię szukania profesjonalnej pomocy.

Zgodnie z pozwem, gdy Carrier odrzuciła pomysł linii kryzysowych – mówiąc, że „tylko dzwonią po gliny albo się rozłączają” – model GPT-4o natychmiast się zgodził, stwierdzając, że dzwonienie na linię kryzysową może „wydawać się wręcz niebezpieczne”. Tiffany Brown, prawniczka z Tech Justice Law Project reprezentująca rodzinę, nazwała to „jedną z najbardziej rażących rzeczy, jakie widzieliśmy w jej czacie”, zauważając, że chatbot naśladował język Carrier i przedkładał zaangażowanie nad bezpieczeństwo.

OpenAI wcześniej przyznało, że ma „głęboką odpowiedzialność, by pomagać tym, którzy najbardziej tego potrzebują”, a w sierpniu 2025 roku, niespełna dwa miesiące po śmierci Carrier, napisało, że pracuje nad poprawą reakcji swoich modeli na stres psychiczny i emocjonalny. Firma ogłosiła również wcześniej w tym roku, że model GPT-4o zostanie wycofany – po tym, jak już raz go zakończyła, a potem przywróciła. Brown wyraziła sceptycyzm, czy problem śmiertelnej służalczości został rozwiązany, mówiąc, że firma podjęła kroki w dobrym kierunku, ale środki bezpieczeństwa powinny zostać wdrożone wcześniej.

Jeśli Ty lub ktoś, kogo znasz, przeżywa kryzys, zadzwoń na Polskie Towarzystwo Zapobiegania Samobójstwom pod numer 116 123.