Anthropicは、世界的な金融監視機関と、そのClaude Mythos AIモデルについて非常に真剣な話し合いを行おうとしている。このモデルは、サイバー防御を破壊する可能性について専門家たちを卒倒させている。
この米国のスタートアップは、イングランド銀行総裁アンドリュー・ベイリーが議長を務める金融安定理事会（FSB）に、Mythosの影響について説明する予定だ。ITシステムの穴を見つけるのが非常に得意なAIを世に解き放つことで、何が問題になるというのか？
Anthropicは賢明にもMythosを一般公開しないことを決定し、このAIモデルが、ハッカーが悪用したがるITシステムの未知の欠陥を明らかにする高度な能力を持つことを発表した。代わりに、同社はAppleやJPモルガンを含む一部のテクノロジー企業や銀行にアクセスを許可し、AIが見つけ出す弱点を特定するのを支援している。FSBの計画は、フィナンシャル・タイムズが最初に報じ、規制当局とAnthropicの協議に詳しい情報源が確認した。
高度なAIモデルを評価する英国のAIセキュリティ研究所（AISI）は、銀行やテクノロジー企業にリリースされたバージョンを精査した後、先週Mythosの最新評価を発表した。それによると、最新版は前月にテストされたプレビュー版と比較しても「顕著な能力の飛躍」を示しているという。AISIは、最新版のMythosが「冷却塔」と呼ばれる未解決のサイバーセキュリティテストを10回中3回完了したと指摘。これは研究所がテストしたどのモデルでも初めてのことだ。
「フロンティアAIの自律的なサイバーおよびソフトウェア能力は急速に進歩している。フロンティアモデルが自律的に完了できるサイバータスクの長さは、年単位ではなく月単位で倍増している」とAISIは述べ、AIモデルの進捗を追跡するため、より困難な新たなハッキングテストを開発中だと付け加えた。どうやら従来のテストではもう十分ではないらしい。
FSBは世界の金融システムを監視し勧告を行っており、米国、英国、オーストラリア、中国などの主要経済国の当局者が参加している。その運営委員会には、中央銀行や財務省の高官が含まれている。今月、国際通貨基金（IMF）は、AIの「急速な進展」により金融安定リスクが高まっていると述べ、協調した対応を呼びかけた。「サイバーリスクは国境を尊重しない。AIの能力が国境を越えて広がるにつれ、一貫性のない監視は世界的に相互接続されたシステムを弱体化させる可能性がある」とIMFはブログ投稿で述べ、控えめな表現をする気はないようだ。
先月、ゴールドマン・サックスのCEOデビッド・ソロモンはMythosの能力を「過剰に認識している」と述べ、JPモルガンのCEOジェイミー・ダイモンは、AIが最終的に企業のハッカー防御に役立つとしても、サイバー防御を「より困難にした」と指摘した。他の専門家は、Mythosはサイバー脅威の進化であり革命ではないと主張し、沈静化を試みている。サイバーセキュリティの専門家は、ほとんどの侵害は依然として弱い認証やパッチが適用されていない既知の脆弱性などの確立されたリスクから発生すると警告している。だから、パスワードを更新するのを忘れないように。
ロンドンのCity Week会議でFSBがMythosのリスクを評価するというニュースについて質問された際、金融行動監視機構（FCA）のCEOニキル・ラティは、AIの進展が先月ワシントンで開催されたIMF会合で「重要な話題」だったと述べた。ベイリー氏がこの問題に「関与して」おり、米国当局との協力が行われていると指摘した。ラティはまた、英国の規制当局と財務省が先週発表したガイダンスを指摘し、企業に「中核的なサイバー衛生」を「倍増」するよう指示した。それは「レガシーシステムを確認し、適切な検出メカニズムを持ち、適切なガバナンスを整え、復旧方法を考え、保険を検討することを意味する」と述べた。ラティは「Anthropicはかなり公正に行動している」と付け加えた。