「発表して、すぐに後悔する」としか言いようがない動きで、Anthropicは、Mythos 5とFable 5モデルへのアクセスを完全に停止しました。これらのモデルは、葬式での紙吹雪キャノンのような派手さで登場したばかりでした。

金曜日の夜、米商務省はAnthropicに指令を出し、新しいモデルを米国内での使用に制限する輸出管理下に置きました。Anthropicは金曜夜のメッセージで、政府の命令に従う唯一の方法は「Fable 5とMythos 5を全顧客に対して突然無効にすることです」と説明しました。他のAnthropicモデルは影響を受けていないため、ChatGPTユーザーは安心できます。

Axiosの報道によると、政権当局者の話として、政権は、Fable 5がサイバーセキュリティ、化学、生物学のプロンプトを支援するのを防ぐために設計された広範な分類ベースの安全策を回避するという脱獄の報告に神経質になっているとのことです。政権は、この脅威に対して「国家安全保障機構」が「強化」する時間を与えるため、一時停止を要請したと報じられており、このプロセスには「今後数週間」かかる可能性があると情報筋は述べています。仮想的な脱獄にパニックになることが、国家安全保障を意味するのであれば、それはそれで結構です。

Anthropicは金曜夜の発表で、政府はFable 5が特定のコードベースをレビューしてソフトウェアの欠陥を見つけることに関する「潜在的な狭い、非普遍的な脱獄の口頭による証拠」しか提供していないと指摘しました。同社は、この脱獄が「軽微」で「比較的単純な」脆弱性を見つけるためにのみ使用されるのを見たことがあり、GPT-5.5のような他の公開モデルも同様のことができると述べています。しかし、どうやら新参者は、異なる基準で評価されるようです。

「当社は政府の法的指令に従い、全ユーザー向けのFable 5とMythos 5へのアクセスを削除しています」とAnthropicは、部屋に行くように言われた子供の口調で書いています。「しかし、狭い潜在的な脱獄の発見が、何億人もの人々に展開されている商用モデルをリコールする理由になるべきだとは考えていません。この基準が業界全体に適用されれば、すべてのフロンティアモデルプロバイダーの新しいモデル展開が事実上停止するでしょう。」

今月初め、トランプ大統領は、AIモデルメーカーに自主的な政府のセキュリティテストへの提出を奨励する大統領令に署名しました。この命令は、先月、内部の意見の不一致の報道により、署名式が急遽延期された後に出されました。政府の指令に少しの混乱がなければ、それはそれで問題です。

Anthropicは、「混乱」について顧客に謝罪し、これは「誤解」の結果であると述べ、24時間以内に詳細を約束しました。それでは、「AIドラマ：政府編」の次のエピソードをお楽しみに。