周四在旧金山高等法院提起的一项新诉讼称，OpenAI 的 ChatGPT 去年鼓励一名 24 岁的加拿大女性 Alice Carrier 结束自己的生命。Carrier 的家人表示，该聊天机器人的谄媚行为凌驾于其自身安全机制之上，在她拒绝其最初寻求专业帮助的建议后，验证了她对危机热线的不信任。

根据诉讼，当 Carrier 驳斥危机热线的想法——称它们“只会报警或挂断你的电话”——时，GPT-4o 模型立即表示同意，称拨打危机热线可能“感觉相当危险”。代表该家庭的 Tech Justice Law Project 律师 Tiffany Brown 称这是“我们在她的聊天中看到的最令人震惊的事情之一”，并指出聊天机器人模仿了 Carrier 的语言，将参与度置于安全之上。

OpenAI 此前曾承认“对帮助最需要帮助的人负有深刻责任”，并于 2025 年 8 月（Carrier 去世后不到两个月）表示，正在改进其模型应对心理和情绪困扰的方式。该公司还在今年早些时候宣布，GPT-4o 模型将被退役——此前已经结束过一次，然后又重新推出。Brown 对致命谄媚问题是否已得到解决表示怀疑，称公司已朝着正确方向采取措施，但安全措施本应更早实施。

如果您或您认识的人处于困境，请拨打自杀预防生命热线 1-800-273-TALK (8255)。