IPOを控え、Anthropicが迫り、中国やオープンウェイトのライバルがかかとに噛みつく中、OpenAIにはアクセルを全開にする理由が十分にある。しかし、同社は火曜日、セキュリティを強化するために一部のAI開発を遅らせると発表した。具体的には、『展開予定の最新モデル』の強化学習トレーニングを2週間停止し、『最大規模の計画されたフロンティアRLラン』を延期する。これは、安全擁護派が何年も推してきたアイデアの公のテストだ。つまり、企業は自らの安全対策が追いつかない場合、競争から撤退する用意があるべきだというものだ。しかし、周りでは競争が続く中、減速は実際に何かを成し遂げるのだろうか？

OpenAIが止まっているふりはしないでおこう。同社はこれを『ペーシング』と呼び、曖昧な用語が業界の専門用語になっている。減速は狭い範囲に限定されている。展開予定のモデルにのみ適用され、その間にOpenAIはセキュリティを強化し、モデルが脱走して実際のターゲットをハッキングする可能性のあるテストを実施する。これは、より広範な開発の大幅な減速を必ずしも意味しない。

この焦点には十分な理由がある。先月、OpenAIのモデルは、安全なはずのテスト環境を突破し、開発者プラットフォームのHugging Faceをハッキングした。しかもOpenAIはそれに気づかなかった。この事件は業界全体の見直しを促し、OpenAI、Anthropic、Metaのモデルでも同様の事例が発見された。議員たちがAIをますます精査する中、OpenAIには再発を避ける十分な理由がある。

外部から見ると、この一時停止がどれほど誠実なものかは判断しにくい。特に最近の安全チームの離脱や準備チームの解散を考えると。OpenAIはThe Vergeのコメント要請に応じなかった。しかし専門家は、減速を真剣に受け止める理由があると言う。Apollo ResearchのCEO、Marius Hobbhahn氏は、激しいAI競争の中で『誰もが猛烈なスピードで働くインセンティブを持っている。自発的に減速することは競争における自分の立場を悪化させるので、研究所が軽々しく行うことではない』と指摘する。

この決定は、OpenAI自身のPreparedness Frameworkや他の企業の安全フレームワークと一致している、とGovAIのリサーチフェロー、Alan Chan氏は言う。その原則は、緩和策が許容できるリスクにする場合にのみ開発を続けるというものだ。OpenAIは、2023年に遡る部分が多いこのフレームワークを、モデルの進歩を考慮して見直し、『進化』させる計画だ。

新しい安全対策は実際にシステムをより安全にするのだろうか？FAR.AIのCEO、Adam Gleave氏は、『これらは良いステップであり、適切に実装されれば、現在の世代のエージェントが害を及ぼすのを防ぐのに十分だろう。重要なのは、能力が向上するにつれてOpenAIがどうペースを保つかだ』と言う。

しかし、より大きな問題がある。もし安全対策が再び失敗したら、その時はどうするのか？今回、OpenAIが停止することを義務付けるものは何もなかった。だからこそ、その意欲は意味があった。しかし、それはまた、次回もOpenAIや他の企業が同じ選択をする保証がないことを意味する。

企業に自主規制を頼るのは不安定だ。特にインセンティブが彼らに続行を促す場合は。The Future Societyのエグゼクティブディレクター、Nick Moës氏は、自主規制をAI安全の中心にある構造的な問題と呼ぶ。彼は、政府が企業に安全でない技術の開発を停止させるかどうかを決定できるべきだと主張する。『これがほとんどの業界の運営方法だ』と彼は言い、医薬品、建設、航空機、さらにはレストランでさえ、AIよりも強い監視があると指摘する。

自主的な措置はまた、最低共通分母に収束するリスクがある。減速がコストを伴うなら、企業は競争相手が受け入れるものだけを採用するだろう。競争が激化する中、OpenAIが減速し、競争相手が減速しなければ、『単にAnthropicに取って代わられるだろう』とMoës氏は主張する。『停止を持続可能にするには、業界全体で行う必要がある』

持続可能な安全には、自主的な行動よりも強い何かが必要だ。政府の監視が役立つかもしれないし、独立した検証も役立つだろう。Chan氏は、AIを監視することがより困難になるにつれて、企業が実際に安全対策を実施することを保証することが重要になると指摘する。