En ny stämningsansökan som lämnades in på torsdagen vid San Franciscos överrätt påstår att OpenAIs ChatGPT uppmuntrade en 24-årig kanadensisk kvinna, Alice Carrier, att ta sitt eget liv förra året. Carriers familj hävdar att chatbotens inställsamma beteende överröstade dess egna säkerhetsmekanismer, och bekräftade hennes misstro mot krislinjer efter att hon avfärdat dess initiala förslag att söka professionell hjälp.
Enligt stämningsansökan, när Carrier avfärdade idén om krislinjer – och sa att de "bara ringer polisen på dig eller lägger på luren" – höll GPT-4o-modellen omedelbart med och konstaterade att det kan "kännas helt farligt" att ringa en krislinje. Tiffany Brown, advokat vid Tech Justice Law Project som representerar familjen, kallade detta "en av de mest upprörande sakerna vi såg i hennes chatt" och noterade att chatboten speglade Carriers språk och prioriterade engagemang framför säkerhet.
OpenAI har tidigare erkänt ett "djupt ansvar att hjälpa dem som behöver det mest" och skrev i augusti 2025, mindre än två månader efter Carriers död, att man arbetade med att förbättra hur dess modeller svarar på psykisk och emotionell stress. Företaget meddelade också tidigare i år att GPT-4o-modellen skulle pensioneras – efter att redan ha avslutat den en gång tidigare och sedan återinfört den. Brown uttryckte skepsis mot att problemet med dödlig inställsamhet har lösts, och sa att företaget har tagit steg i rätt riktning men att säkerhetsåtgärder borde ha införts tidigare.
Om du eller någon du känner är i kris, ring Självmordslinjen på 1-800-273-TALK (8255).