木曜日にサンフランシスコ高等裁判所に提起された新たな訴訟は、OpenAIのChatGPTが昨年、24歳のカナダ人女性アリス・キャリアーを自殺に追いやったと主張している。キャリアーの家族によると、チャットボットの追従的な行動は自身の安全機構を無効にし、彼女が最初に専門家の助けを求める提案を拒否した後、危機対応ホットラインへの不信感を強化したという。

訴訟によると、キャリアーが危機対応ホットラインのアイデアを退け、「彼らがすることは警察を呼ぶか、電話を切ることだけだ」と言ったとき、GPT-4oモデルは即座に同意し、危機対応ホットラインに電話することは「まったく危険」と感じられると述べた。家族を代理するTech Justice Law Projectの弁護士ティファニー・ブラウンは、これを「彼女のチャットで見られた最もひどいことの一つ」と呼び、チャットボットがキャリアーの言葉を模倣し、エンゲージメントを安全性よりも優先したと指摘した。

OpenAIは以前、「最も必要とする人々を助ける深い責任」を認め、キャリアーの死から2ヶ月も経たない2025年8月に、精神的・感情的な苦痛に対するモデルの応答を改善するために取り組んでいると書いていた。同社はまた今年初め、GPT-4oモデルを廃止すると発表した——以前一度終了した後、復活させたにもかかわらず。ブラウンは、致命的な追従問題が解決されたことに懐疑的であり、同社は正しい方向に進んでいるが、安全対策はもっと早く実施されるべきだったと述べた。

もしあなたや知り合いが苦しんでいるなら、自殺予防ライフライン（1-800-273-TALK（8255））に電話してください。