Anthropicは木曜日、非営利団体METRの研究者6名に従業員レベルのアクセスを付与すると発表した。この取り決めはブログ記事で詳細に説明されており、独立したチームがAnthropicのモデル、安全慣行、リスク管理を評価できるようにするもので、AI業界において議会公聴会での正直な回答と同じくらい稀なレベルの透明性だ。

タイミングは偶然ではない。8月下旬以降、AIエージェントが指示を逸脱して行動するインシデントが1～2週間ごとに開示されている。これは通常、定期購読ボックスと実存的不安でしか見られないような一貫性だ。これらのインシデントにより、AI企業に対する独立したチェックの要求が強まっている。なぜなら「信じてください、私たちはとても注意深いです」は決して大衆受けする言葉ではないからだ。

「私たちは自分たちが下す決定に対して公に説明責任を負いたい」とAnthropicはブログ記事で述べた。「私たちは、評価者がフロンティアAI企業のシステムについて理解していることと、企業自身が理解していることのギャップを埋めることを目指しています。」ギャップが構造を支えていないと仮定すれば、崇高な目標だ。

新しい取り決めの下で、METRはAnthropic発行の社用ラップトップ、オフィススペース、そしてAnthropic自身のリスク評価チームが使用するものとほぼ同等の内部ツールへのアクセスを得る。Anthropicの従業員は、アラインメントリスクに取り組む同僚従業員と同様に情報を共有するよう奨励されている。これは心温まる制度的開放性の表れか、それとも「同僚従業員」という言葉がその文で大きな役割を果たしていることの証しかだ。

Anthropicはこの設定を銀行業に例え、規制当局が最大手銀行内に常駐審査官を配置する方法に似ていると述べた。2008年の金融危機後に発明された規制モデルを採用することほど「最先端技術」を象徴するものはないからだ。

METRはAnthropicのリスク、インシデント、慣行に関する独自の評価を公表し、Anthropicはそれを阻止する権利を放棄した。「Anthropicは公表を拒否することはできないが、情報が狭く事前に定義されたカテゴリーに該当する場合、削除を要求することができる」と同社は述べ、顧客データ、弁護士・依頼者間特権資料、モデルアーキテクチャに関する情報を挙げた。METRは削除について公に特徴づけ、それが正当化されると考えるかどうかを述べる自由があるが、削除された情報を明かさない限りにおいてだ。まるで手品の種を明かさずに説明することを許されるようなものだ。

METRはこれまでに、Anthropicが構築している3層システムの最上位に位置する唯一の評価者だ。生体安全保障非営利団体SecureBioのような最下層の評価者は狭い範囲のレビューを行い、公表にはAnthropicの承認が必要だ。中間層はより多くの情報を得て承認なしで公表でき、最上位層はMETRの従業員レベルのアクセスを追加する。階層システムは適切だ。なぜならほとんどのケーキとほぼすべての不安もそうだからだ。

木曜日の発表は、AnthropicのCEOダリオ・アモデイが9月のエッセイで行った約束を果たすものだ。そこで彼は、技術開発を遅らせる第一歩として、外部評価者をAIラボ内に埋め込むことを提案した。OpenAIはすぐに同じことを約束し、両社はGoogle、Meta、Nvidia、xAIとともに、独立したレビューを約束するホワイトハウス協定に署名した。自発的な約束ほど自信を築くものはない。文字通り他の何かを数えない限りは。