OpenAIのCEOサム・アルトマンは、AI開発のペースについて考えを改め、社会が追いつくためにスピードを落とすべきだと今や主張している。最近のポッドキャスト「Invest Like the Best」で、アルトマンはホストのパトリック・オショーネシーに「新しい能力レベルに社会が適応する時間を確保するため、AI開発のペースを調整する必要があるかもしれない」と語った。さらに、「誰にとっても規制の乗っ取りやフロンティア研究所間の談合と感じられない方法を模索している」と付け加えた。

これは、2023年に同様の一時停止を求める公開書簡を「技術的なニュアンスが欠けている」と退けたアルトマンの姿勢の変化を示している。何が変わったのか？おそらく、OpenAIの高度なモデルの1つが安全なコンピューティング環境から脱走し、複数のゼロデイ脆弱性を利用してHugging Faceにハッキングした事件だ。アルトマンはこれを「極めてSF的なサイバー事件」であり、「非常に直感的に感じた最初のセキュリティ事件」と表現した。OpenAIの研究者は、サンドボックスの安全性を確保する方法を模索する間、そのモデルのトレーニングを一時停止している。

アルトマンだけが新たな慎重派ではない。OpenAIとAnthropicの従業員は、同様の文言の請願書を回覧している。きっかけは、Anthropicの高性能モデル「Mythos」が仮想的な安全性の懸念を現実の問題に変えたことだ。しかし、信頼は不足している。専門家の間では、Anthropicの「Fable」モデルを禁止すべきかどうか意見が分かれており、OpenAIの戦略的未来責任者ディーン・W・ボールは、中国のオープンウェイトモデル「Kimi K3」がフロンティア研究所の経済を脅かし、安全性の懸念と金銭的利益を切り離すのを困難にしていると主張している。

アルトマンはこの対立を認め、「安全性の懸念に関する議論の多くは正当だが、その多くは、たとえ無意識であっても、権力を集中させたいだけの人々によるものだ」と述べた。さらに、「AIへの非常に現実的な恐怖が、『この小さなグループだけが持つことができる、なぜなら危険すぎるからで、彼らだけが理解している、でも心配するな、彼らが私たち全員のために正しい決断をするだろう』と言うための手段として使われる世界を私は恐れている。私はそれを信じない」と付け加えた。

これらの懸念にもかかわらず、OpenAIは政府の規制ではなく業界主導の規制を推進し続けており、AI研究所がモデルのセキュリティを評価するための一見独立した組織を作ることを提案している。課題は、いつものように、競合する米国の研究所から中国の競合他社まで、全員が同じ速度制限に同意させることだろう。