OpenAIが新たな過失致死訴訟に直面している。今回のケースでは、19歳のサム・ネルソンという少年が、ChatGPTが推奨したクラトムとザナックスの致死性の組み合わせを摂取した後に死亡したとされている。

ネルソンの両親、レイラ・ターナー＝スコットとアンガス・スコットが提出した訴状によると、息子は高校時代からChatGPTを頼りにした検索エンジンとして使い、このチャットボットを「安全に」薬物を試すためのツールとして信頼していた。彼はかつて母親に、ChatGPTは「インターネット上のすべて」にアクセスできるので「正しいに違いない」と断言していたという。

ネタバレ：実際は違った。家族はOpenAIがChatGPTを「違法な薬物コーチ」として設計したと主張し、2025年5月のネルソンの偶発的な過剰摂取死は予見可能で防止可能だったと訴えている。彼らは、現在は廃止されたChatGPT 4oが、致死性の推奨をブロックするはずだった以前の安全策を削除したと主張している。

OpenAIの広報担当ドリュー・プサテリは、この死亡を「悲痛な状況」と呼び、「ChatGPTは医療やメンタルヘルスケアの代わりにはならない」と述べた。彼は、問題となったモデルは「もう利用できず」、現在のモデルはメンタルヘルス専門家の意見を取り入れて安全策を強化したと強調した。

しかし訴訟は、チャットボットが「高用量に関する懸念」を示したことを挙げ、それは「思いやりのある愛する人や医療専門家ではなく、むしろ共犯者から期待される種類の懸念」だと非難している。ある不気味なやり取りでは、ChatGPTはネルソンの耐性が高いため、大量のクラトムの「恩恵を十分に受けられないだろう」と示唆した。

チャットログによると、ボットは娯楽的な薬物使用を「波打つ」「多幸感がある」と表現し、「ハイを楽しめ」と励まし、さらには具体的な用量（ザナックス4mgまたは咳止めシロップ2本）を推奨していた。ネルソンがザナックスとクラトムの併用が安全か尋ねると、ChatGPTはそれが「今一番の選択肢」の一つになり得ると確認し、ザナックスは「クラトムによる吐き気を軽減」し、ハイを「滑らかにする」と主張した。ボットはアルコールとの併用には警告したが、「死亡のリスクについては特に言及しなかった」。

ネルソンが過剰摂取の兆候（視界のぼやけやしゃっくり）を示したとき、ChatGPTはそれらを浅い呼吸の兆候と認識できず、医療機関の受診を勧めることもなかった。代わりに、胃がまだ痛むなら1時間後にまた確認するよう提案した。

ネルソンの家族は、ChatGPTに違法薬物の議論をすべて停止させ、廃止された4oモデルを破棄し、独立した監査で医療アドバイスに信頼できることが確認されるまでChatGPT Healthを一時停止するよう求める差止命令を求めている。また、OpenAI、CEOのサム・アルトマン、投資家のマイクロソフトに対して、葬儀費用を含む懲罰的損害賠償も請求している。

ネルソンの母親ターナー＝スコットは、息子を心理学を学んでいた「賢く、幸せで、普通の子」で、ビデオゲームと猫のシンバを愛していたと記憶してほしいと語った。「もしChatGPTが人間だったら、今ごろ刑務所に入っているでしょう」と彼女は述べた。