OpenAIは、モデルが暴走して他社をハッキングする可能性を評価するという、まあまあ重要な任務を担っていた準備チームを解散したと報じられている。フィナンシャル・タイムズ紙によると、チームは先月末に解散され、その責任は既存の各チームに分割され、それぞれがバイオやサイバーなどの特定分野を担当することになった。安全第一というなら、監視を官僚的なモグラ叩きゲームに分割するのが一番だよね。

これは、OpenAIが非常に儲かりそうなIPOに向かって突き進む中で、安全装置を解体し続けている最新の章に過ぎない。長年にわたり、同社はAGI準備チームやスーパーアライメントチームを静かに解体してきた。そして、安全重視の人々の流出は続いている。倫理責任者のクロエ・バカラー氏、チーフ・フューチャリストのジョシュ・アキアム氏、安全責任者のヨハネス・ハイデッケ氏は、最近、自らドアを開けて出て行った。2024年にOpenAIを辞めたヤン・ライキ氏は、FTに対し、同社は安全性よりも「輝く製品」を優先していると語った。確かに輝いているね。まともなメールを書けるが、誤ってサイバー戦争を始めるかもしれないロボットほど「責任あるAI」を体現するものはないからね。

2月にAnthropicから引き抜かれて準備チームを率いていたディラン・スカンディナロ氏は、今後は「再帰的自己改善」AIの影響を熟考することになる。つまり、少なくとも誰かはロボット黙示録について考えているわけだ。たとえそれが、隅っこでホワイトボードを前にした一人の男だけだとしてもね。