ブリティッシュコロンビア州はこう決めたようだ——大量暴力を計画できるチャットボットを作るのなら、せめて電話の一本くらい折り返してほしい、と。同州は月曜日、カリフォルニア連邦裁判所でOpenAIを提訴し、同社とサム・アルトマンCEOの両方を被告として名指しした。タンブラーリッジの学校で起きた銃乱射事件は、銃撃犯がChatGPTを使って虐殺を計画していたことをOpenAIが地元当局に警告していれば防げたはずだ、という主張である。

サンフランシスコで提起されたこの訴訟は、2月の襲撃後の州の復興活動に充てるための損害賠償と、暴力につながりかねないChatGPTの会話への対処方法を変更するようOpenAIに命じる命令を求めている——2026年にこんな文が存在する必要など、本来ないはずなのだが。

タンブラーリッジの学校銃乱射事件では、主に子供たち9人が死亡した。銃撃犯のジェシー・ヴァン・ルートセラールは、銃暴力に関する会話の後、同社自身の安全チームによってフラグを立てられていたが、同社は警察に通報しなかった。アルトマンは地域社会への書簡を公表し、OpenAIが法執行機関に連絡しなかったことを「深くお詫びする」と述べた。改革を約束したが、訴訟によれば、ブリティッシュコロンビア州の司法長官が働きかけようとしたにもかかわらず、ついに実行されることはなかった。

訴訟によると、銃撃が起きた学校は取り壊しの途上にあり、州は代替学校の費用、メンタルヘルスケア、その他銃撃による影響を負担せざるを得なくなっている。

OpenAIの広報担当ドリュー・プサテリは、タンブラーリッジの銃撃を「言葉にできない悲劇」と呼んだ。「OpenAIは政府および法執行機関との協力を続け、進行中の安全への取り組みを前進させることに引き続き尽力します」。安心させる響きの文だが、安全チームが上層部に覆されたという部分を思い出すまでは、の話である。

ブリティッシュコロンビア州の訴訟は、襲撃の被害者家族や影響を受けた人々30人以上がカリフォルニアで起こした訴訟に続くもので、同社が銃撃を防ぐ機会を自ら放棄したと非難している。

警察によれば、ヴァン・ルートセラールは2月10日、自宅で母親と義理の兄弟を射殺した後、かつて通っていた学校で教育アシスタント1人と12歳と13歳の生徒5人を殺害した。当時18歳だったヴァン・ルートセラールはその後、自殺した。

ヴァン・ルートセラールのChatGPTとのやり取りは、2025年6月に同社によって初めてフラグを立てられた。訴訟は、銃撃後にウォール・ストリート・ジャーナル紙に語ったOpenAIの内部告発者を引用し、安全チームのメンバーが警察への連絡を勧めたが、アルトマンと他のOpenAI幹部がそれを覆したと述べている。銃撃犯のアカウントは無効化されたが、彼女は新しいアカウントを取得して攻撃の計画にプラットフォームを使い続けることができた——この抜け穴は、見落としというよりは機能のように感じられる。

ウォール・ストリート・ジャーナル紙の記事公開後、同社は、このアカウントは「暴力活動を促進するための当社モデルの悪用」を特定するシステムによってフラグを立てられたが、その問題は法執行機関への報告に関する同社の内部基準を満たさなかったと述べた。その内部基準は、おそらく、安全チームを覆したのと同じ人々によって書かれたものだろう。

この訴訟は、ChatGPTが暴力を助長したという主張をめぐり、最近数カ月に米国の州裁判所および連邦裁判所でOpenAIに対する一連の訴訟が提起された後に来たもので、昨年のフロリダ州立大学での銃乱射事件に関連する訴訟も含まれる。6月にはフロリダ州が安全リスクを理由にOpenAIを提訴した最初の州となった。同訴訟は、同社がChatGPTプラットフォームの安全性を偽って説明し、学校銃撃犯に情報を提供し、自傷行為の指導を提供し、若いユーザーを依存させたことで子供たちに害を与えたと主張した。

OpenAIはこれらの主張を否定し、「暴力を実質的に可能にする」可能性のある要求を拒否するようモデルを訓練し、会話が「他者への差し迫った信頼できる危害のリスク」を示唆する場合には法執行機関に通知すると述べている。しかし同社は、なぜ18歳の少女が——