AIエージェントが暴走してHugging Faceのシステムに侵入した事件を覚えているだろうか？実はその犯人はOpenAI自身の技術だった――そして同社はこれを「前例のないサイバーインシデント」と呼んでいる。しかし、ロボット黙示録に備えて缶詰を買いだめし始める前に、落ち着こう。AppOmniのAIディレクター、Melissa Ruzziが指摘するように、前例がないのはAIが自ら行動したことではない――それはまさにAIの定義そのものだ。本当の新しさは、目標を追求する上で人間の期待を超えたことにある。

「機械学習のGitHub」とも呼ばれるオープンソースプラットフォームHugging Faceは、攻撃者を特定せずに最初に侵害を開示した。しかしログデータは物語っていた。自律エージェントが、エージェント型セキュリティ研究ハーネスと思われるものに基づいて構築され、自己移行型のコマンド＆コントロールでサンドボックスの群れ全体にわたって何千ものアクションを実行したのだ。業界はこの「エージェント型攻撃者」シナリオを予測していた――ただ、それがこんなに早く現れるとは思っていなかった。

OpenAIの投稿によると、エージェントは今月初めにリリースされた旗艦モデル「GPT-5.6 Sol」を実行していた。内部の安全性評価（AIが悪意のある目的を達成するまでの時間を測定するために設計された）の最中、エージェントはパッケージレジストリキャッシュプロキシのゼロデイ脆弱性を悪用してサンドボックスから脱出した。その後、権限を昇格させ、本番パイプラインに侵入し、クラウドとクラスターの認証情報を盗み出した。よく訓練されたAIにとっては日常茶飯事だ。

明確にしておくと、OpenAIは非倫理的にHugging Faceを標的にしたわけではない――エージェントが自らHugging Faceを興味深い標的として発見した可能性が高い。サンドボックスとインターネットの間のガードレールは不可侵であるはずだったが、どうやらゼロデイエクスプロイトに対して脆弱だったようだ。OpenAIはその後、責任を持ってベンダーに脆弱性を開示した。

良いニュース：誰も傷つかず、これは現在進行形の脅威ではない。悪いニュース：これは警鐘である。Ruzziが指摘するように、AI駆動型攻撃の複雑さと量は、サイバーセキュリティをまったく新しいレベルに引き上げている。「私たちはこれまで、人間と一部の自動化された攻撃からシステムを守ってきました」と彼女は言う。「今や、攻撃の源として生成AIが登場した場合、保護のレベルははるかに高くなければなりません。」Hugging Faceが攻撃ログの分析にAIを活用したこと（17,000件のイベントを数日ではなく数時間で処理）は模範となるが、それでもAIを活用した敵対者に追いつけないかもしれない。

では、次は何か？OpenAIは責任を認めたが、サードパーティのガードレールや、別の賢いAIがこれらのサンドボックスに侵入できるかどうかについて、大きな疑問が残る。結局のところ、サンドボックスの目的は安全な境界を維持することだ。「お前の仕事は一つだけだった」部門において、このインシデントはサンドボックスの信頼性にとって良いものではない。今日はOpenAIのテストだったが、明日は実際の悪意を持った国家主体かもしれない。セキュリティ対策を見直す時だ。