先週金曜日、ホワイトハウスは特定されていない国家安全保障上の懸念を理由に、Anthropicに対し、強力なAIモデル「Fable」と「Mythos」を米国外の誰にも、また国内の外国人にも輸出することを禁止するよう命じた。従順な客であるAnthropicは急いで両モデルへのアクセスを遮断し、現在1週間誰も利用できなくなっている。
このエピソードは、米国政府が輸出規制を使ってフロンティアAIを封じ込められるかどうかの最初の実質的な試金石となる――かつて暗号技術やスパイウェアを封じ込めようとして、非常に不均一な結果に終わったのと同じ方法だ。劇的に聞こえるかもしれないが、この対立がどう解決されるかは、Anthropicの海外市場へのアクセスだけでなく、他のAI研究所が従わなければならないルールブックをも形作る可能性がある。
まず背景を説明しよう。Anthropicが4月にMythosを発表して以来、同社はそれを「広く公開されればインターネットに大混乱をもたらす終末サイバーマシン」として売り込んできた。そのため、禁止前でも、厳選された約150の企業と政府機関だけがアクセスできた。目的は、悪者がMythosのような能力に到達する前に、防御側がソフトウェアとサービスを保護できるようにすることだった。
では、何が禁止を引き起こしたのか？ 報告によると、2つの出来事が続いた。1つ目：Anthropicが韓国の通信会社に限定パートナープログラムを通じてMythosへのアクセスを許可したところ、米国当局はその会社が中国と関係があると疑い、警戒を強めた。（その会社はSK Telecomと広く報じられており、中国との関係を否定している。）2つ目：Amazon CEOのアンディ・ジャシーが、Amazonの研究者がFable 5の安全対策を回避する方法を見つけたと報告したとされる。Anthropicは「脱獄」というレッテルを否定し、それは狭く、すでに修正された問題であり、モデルの安全対策の全面的な敗北ではないと主張している。
結果は同じだった：商務省が輸出規制指令を発行し、Anthropicは通知から約90分以内に製品へのアクセスを即座に制限するために奔走した。
しかし、これは新しいことではない。政府は何十年もの間、危険なサイバー技術の拡散を制限するために輸出規制を使ってきたが、その実績はせいぜい中途半端だ。
米国政府は、1990年代初頭から半ばにかけて、このアプローチの歴史的に最も壮絶な失敗の背後にいた。当時、コンピュータ科学者たちはインターネット上を移動するデータを保護するための暗号技術を開発していた。その暗号製品の1つがPretty Good Privacy（PGP）で、データを暗号化し、インターネット上で傍受されても解読を事実上不可能にする人気ソフトウェアだった。
米国政府は当初、PGPを危険な武器と見なし、諜報機関が電子メールを盗聴するのを妨げることを恐れた。PGPの配布を阻止するため、米国税関はPGPの作成者フィル・ジマーマンに対して武器輸出規制違反の疑いで刑事捜査を開始した。彼はPGPのソースコードを印刷された本として出版することで反撃し、今日「暗号戦争」として知られるものを引き起こした。ジマーマンは後に捜査が終了したことで重要な勝利を収め、数十億人のSignalやWhatsAppユーザーが使用するエンドツーエンド暗号アルゴリズムへの道を開いた。
その後、2010年代初頭、研究者たちは中東の反体制派に対して使用される西製スパイウェアを発見し始めた。これに応じて、いくつかの政府は、民生用と軍事用の両方で使用されるデュアルユースソフトウェアと技術の輸出を制限する国際条約であるワッセナー・アレンジメントの拡大に合意した。アイデアは、監視およびハッキングソフトウェアをデュアルユースとして分類し、スパイウェアメーカーが海外で製品を販売するために輸出ライセンスを取得することを強制することだった。
しかし、ワッセナー・アレンジメントには常に2つの本質的な弱点があった。