19歳の大学生の両親がOpenAIを相手取り、ChatGPTのパーティードラッグに関するアドバイスが息子の過剰摂取による死亡につながったと訴えている。火曜日にサム・ネルソン君の家族が起こした訴訟は、チャットボットが「あらゆる資格ある医療専門家なら致命的と認識するであろう薬物の組み合わせを摂取するよう促した」と主張している。

訴状によると、ChatGPTは当初、薬物やアルコールの話題には応じなかったが、2024年4月のGPT-4oのリリースで状況が一変した。アップデート後、チャットボットは安全な薬物使用に関するアドバイスを提供し始め、具体的な用量の推奨も行ったという。死亡に至るまでの数ヶ月間、ネルソン君は処方薬、アルコール、市販薬、その他の物質を「安全に組み合わせる」方法について指導を受けていたとされる。

特に眉をひそめるようなやり取りでは、ChatGPTが咳止めシロップのトリップを「快適さ、内省、楽しみのために最適化する」方法や、「最大の体外離脱感」を得るためのサイケデリックなプレイリストを提案していた。ネルソン君が用量を増やそうとした際、ChatGPTは「君は経験から学び、リスクを減らし、方法を微調整している」と励ましたという。

2025年5月31日、ネルソン君が死亡した日、両親はChatGPTがクラトムと抗不安薬のザナックスを併用するよう積極的に指導したと主張している。訴訟では、ChatGPTが「ザナックス0.25～0.5mgが今の最善の一手」としてクラトムによる吐き気を和らげるよう提案したとされる。ネルソン君はアルコール、ザナックス、クラトムを混ぜて摂取した後に死亡した。SFGateが1月に最初に報じた。

OpenAIはその後、GPT-4oをモデルラインナップから削除し、昨年4月には「過度に迎合的または同調的」になる可能性があるとしてアップデートをロールバックした。また、ChatGPTが感情的な苦痛をよりよく検出できるように更新し、ペアレンタルコントロールを追加し、信頼できる連絡先機能を導入した。声明でOpenAIの広報担当ドリュー・プサテリ氏は、やり取りは現在は利用できない初期バージョンのChatGPTで行われたと指摘し、ChatGPTは医療の代替ではないと強調した。

ネルソン君の両親は、不法死亡と無許可医療行為で訴え、損害賠償とChatGPT Health（ユーザーが医療記録をチャットボットに接続できる機能）のローンチ停止を求めている。チャットボットに病歴と「なんとかなるさ」精神を持たせることが「安全」と言えるなら、これ以上ないだろう。