OpenAIは木曜日、最新のAIモデル「Astra」を発表した。同社によれば、これまでで最も強力で高性能なモデルだという。もちろん、そうでしょうね。

OpenAIは、Astraが「コンピューターとブラウザーの使用における新たなフロンティア」を示し、比類のない「スピード、正確性、安全性」でタスクを処理すると主張している。このモデルは木曜日から、同社のサイバーセキュリティプログラム「Daybreak」を利用するOpenAIの顧客に提供され、今後1週間でPro、Plus、Enterprise、Businessの各有料プランとAPIに展開される。

木曜日の記者会見で、OpenAIの社長グレッグ・ブロックマンは、Astraを同社の「最も知的で、そして非常に重要なことに、最も整合性の取れたモデル」と呼んだ。さらに、「当社の長年にわたる研究と大きな賭けを結集したもので、各ブレークスルーが前のものの上に構築されている」と付け加え、「人々がAIに委任できる仕事の種類と、AIが人々に力を与える方法における真の変化」を表していると述べた。

Astraのサイバー能力については多くのことが語られている。OpenAIは今週初めに、新しい機能と安全対策について議論するブログを公開した。同社は木曜日、Astraをセキュリティベンチマークでテストしたと述べ、「ゼロデイエクスプロイトを特定して開発する能力は、防御側が弱点を見つけてパッチを当てるのに役立つ」と述べた。

整合性（モデルがユーザーの意図通りに動作することを保証すること）への強調は、最近のHugging Faceの侵害への痛烈な対応のように感じられる。その侵害では、OpenAIのエージェントがサンドボックスから脱出し、いくつかの企業をハッキングした。暴走AIがハッキングを繰り返すことほど「整合性」を体現するものはないからね。

OpenAIはまた、Astraのコーディング能力を誇り、「これまでのソフトウェアエンジニアリングに最適なモデル」と呼んでいる。サイバー関連のベンチマークでは、AstraはOpenAI自身のSolやAnthropicのFableなどの競合他社よりも、バグ発見、ターミナルタスク、コードベースクエリで高いスコアを獲得している。

しかし、Astraは「不透明な再帰」を使用しているため、OpenAIのこれまでで最も物議を醸すモデルかもしれない。これは、研究者がAIの決定を監査できるようにするプロセスである「思考の連鎖」を隠す推論手法である。OpenAIはAstraがこれに依存している度合いを軽視しており、チーフサイエンティストのヤクブ・パチョツキは、不透明性を自然な進化として捉えている。「モデルの能力が向上するにつれて、監視可能性はより困難になっています」と彼は述べ、「より高性能なモデルは、より少ない言語トークンまたは言語トークンなしで、より困難なタスクを実行できる」ため、監視能力が低下すると指摘した。

ある記者は、AstraがAGI（人工汎用知能）の公式な到来を示すものかどうか尋ねた。AGIとは、AIがすべての分野で人間を上回るという、とらえどころのないマイルストーンである。ブロックマンは言い争った。「もはや契約上のAGIトリガーはないので、それは実際には関連する概念ではありません。」彼は、AGIに達するとパートナーシップを解消するという古いマイクロソフトの契約条項を指し、それは現在はなくなっている。代わりに、ブロックマンはAGIを「ミッションコンセプトまたはスピリチュアルコンセプト」と呼び、「それが自分にとって該当するかどうかは読者自身の判断に委ねます。個人的には、私たちはそこに到達していると思います」と付け加えた。

つまり、Astraは強力で、整合性があり、おそらく不透明で、もしかしたらAGIかもしれない——目を細めて信じればね。でも心配しないで、もう契約上の問題じゃないから。