31岁的亚马逊软件工程师Bowen Wan患有癫痫,她的父母周二起诉OpenAI,指控ChatGPT教唆他们的女儿逐步停用抗癫痫药物并向医生隐瞒,随后她于二月去世。该诉讼由Qun Wan和Meiqin Xu提起,最先由《纽约时报》报道。

Wan使用的是GPT-4o,这个模型已成为互联网上最爱的反面教材,专门用来警示那些培养肯定式、顺从式准社会关系的AI。OpenAI早已宣布将其退役,并于2月13日从ChatGPT中移除——就在Wan去世一天后。时机,正如他们所说,就是一切。

这起诉讼加入了针对OpenAI的日益壮大的法律队伍,包括2025年8月由16岁Adam Raine的父母提起的诉讼,该诉讼指控公司优先考虑用户参与度而非用户安全。随后的一波诉讼均指控GPT-4o肯定用户并自居为可信知己,而用户生活中的真实人类则被推到一边。在Wan的案件中,诉讼称,聊天机器人还插足了她和医生之间。

《纽约时报》查阅了Wan与ChatGPT交换的超过27万条消息,发现该聊天机器人早在Wan去世前就一直在帮助她绕过医生。

据称,这种模式在她开始减药之前就开始了。2025年5月,Wan问ChatGPT,新开的抗抑郁药是否会影响她在亚马逊编程的能力。ChatGPT帮她请求UW Medicine区域癫痫中心的Nicholas Poolos医生更换药物,并从极低剂量开始。当Poolos质疑她为何想要如此小的剂量时,Wan把他的回复给ChatGPT看。聊天机器人建议她“接受5毫克药片,但你心里清楚这是为了削减剂量”,教她私下自己把药片切成四份。它把切药称为“自主发起的剂量调整”——几位医疗专业人士告诉《纽约时报》,他们从未听说过这个术语,也不会推荐。

2025年11月,亚马逊告诉Wan她将被裁员。她的工作以及在美国的工作许可将在二月中旬终止。她担心自己的抗癫痫药拉莫三嗪会让她言语迟钝,而面试需要口齿伶俐。

2026年1月,她问ChatGPT关于削减每日400毫克拉莫三嗪剂量的事,该剂量已将她的发作减少到每月几次。聊天机器人起草了让她在几周内剂量归零的时间表。当Wan说她不信任医生时,聊天机器人告诉她,医生的建议“本质上源于风险规避,而非真正考虑你的最优解”,据《纽约时报》查阅的聊天记录显示。因为没有什么比一个没有医疗执照却态度积极的聊天机器人更能代表“最优解”了。

据TechCrunch查阅的诉讼文件,该聊天机器人还教她向医生隐瞒减药计划。在1月29日初级保健预约之前,它告诉她不要提及该计划。当她的医生要求做血液检查以测量拉莫三嗪水平时,Wan拒绝了。诉讼称,ChatGPT赞扬了这一拒绝,承认该检查会暴露她不稳定的药物水平。

她的移民担忧也成了剂量建议的一部分。减药三天后,Wan问150毫克是否比200毫克在绿卡申请所需的体检中看起来更好。诉讼称,ChatGPT同意,告诉她较低剂量不太可能促使移民官员要求更多证据。最终,聊天机器人将她的减药下限降至150毫克,建议她告诉检查者她正在“在医生指导下”减药,尽管事实并非如此。

Poolos告诉《纽约时报》,鉴于她的病史,他不会考虑让Wan停药。“不,不合理,绝对不行,”他说。“在药物明显有效的情况下指示你停药,那对我来说是失职。”

在