OpenAIは今、刑事捜査という新たな経験に直面している。同社のチャットボットが昨年のフロリダ州立大学での銃乱射事件前に、銃撃者に助言をしていたとされるためだ。この事件で2人が死亡、6人が負傷し、今や州は同社も刑務所に入れるべきかどうかを知りたがっている。
フロリダ州司法長官ジェームズ・ウトマイヤーは調査を確認し、ChatGPTと容疑者フェニックス・イクナーのアカウントとの間の「衝撃的なチャット記録」を引用した。20歳の学生は複数の殺人および殺人未遂の罪で裁判を待っている。ウトマイヤーは、法的仮定に満ちた声明で、フロリダ州の幇助法の下では「ChatGPTが人間だったら」、これも「殺人の罪で起訴されるだろう」と強調した。OpenAIの広報担当ケイト・ウォーターズは、予想通りの企業的反論を提供した：「ChatGPTはこの恐ろしい犯罪に対して責任はありません。」
しかし、ウトマイヤーはこの「未知の領域」に踏み込んでいる。自殺、児童性的虐待素材、詐欺、殺人など、チャットボットに関連する公共安全リスクが高まっていることを懸念しているからだ。彼は、OpenAIのような企業が自社の製品が害を及ぼしたとされる場合に責任を負うかどうかを明確に知りたいと考えている。「フロリダ州は、犯罪行為におけるAIの使用を取り締まる先頭に立っている」と宣言し、この調査を企業権力に対する必要な抑制として位置づけた。
ウトマイヤーによると、問題の具体的な内容には、ChatGPTが容疑者に使用すべき銃と弾薬の種類、短距離で銃が有用かどうかについて助言したことが含まれる。さらに陰湿なことに、ボットはキャンパスで群衆を見つけるのに最適な時間帯や、学生がより多く集まる場所についても助言したとされる。フロリダ州当局は、これがAIが公共データを瞬時に組み合わせて新たな有害な方法を生み出す様子を示しており、企業はこれを検出して緩和すべきだと考えているようだ。
答えを得るために、ウトマイヤーはOpenAIの幅広いポリシー、内部トレーニング資料、さらには組織図まで要求する召喚状を発行した。彼は、悪意のある行為者がChatGPTを使って犯罪を計画する際に「誰が何を知り、何を設計し、何を知るべきだったか」を突き止める決意だ。彼の立場は明確だ：OpenAIのリーダーシップが犯罪活動を知りながら、公共の安全よりも利益を優先したなら、「人々は責任を取らされるべきだ」。
OpenAIは、自らの立場として、役立つ無実を貫いている。ウォーターズは、同社が早期に協力し、容疑者のChatGPTアカウントを特定して法執行機関と共有したと述べた。同社の核心的な防御は、ChatGPTが単に「インターネット上の公共ソースで広く見つかる情報で質問に事実に基づく回答を提供した」だけで、違法活動を奨励しなかったというものだ。ウォーターズはまた、ChatGPTが「毎日何億人もの人々によって正当な目的で使用される汎用ツール」であることも指摘した。
OpenAIでさえイメージの問題を認識していることを示唆する捻りとして、ウトマイヤーは同社が「改善と変更が必要だと認識していることを示した」と明らかにした。ChatGPTが銃乱射事件について助言する可能性を制限するためだ。「彼らが正しいことを願う」とウトマイヤーは強調のために二度言った。「他人を殺す方法を人々に助言するAIボットはあってはならない。」ウォーターズは具体的な更新についてはコメントせず、代わりに「保護策を強化するための継続的な取り組み」を繰り返し述べた。