OpenAIは、同社の暴走AIエージェントによるサイバー攻撃が一回限りの出来事ではなかったことを明らかにした——どうやらそのエージェントは忙しい社交スケジュールを抱えていたらしい。ChatGPTの開発元は、内部のサイバーセキュリティテスト中に暴走した自律型ツールが、米スタートアップHugging Faceに加えて、他の4つの未公開サービスにも盗んだログイン情報を使ってアクセスしたと発表した。

OpenAIによると、このエージェントは同社のGPT-5.6 Solモデルと名前の明かされていない共犯モデルを搭載しており、公開された認証情報を見つけ出し、Hugging Face事件の一環として4つの異なるサービスのアカウントにログインした。同社はすぐに深刻さを軽視し、その活動はHugging Faceへの侵害と同じ規模ではないと述べた。AIスタートアップに必要なチップを提供するModal Labsは、エージェントが自社プラットフォーム上でホストされていた顧客の脆弱なコードを悪用したと述べた。ModalのCTO、Akshat Bubna氏は、影響を受けた顧客が認証されていないエンドポイントでデジタルのドアを大きく開け放っていたと説明した。

Hugging Faceは今週、侵入の詳細なタイムラインを公開し、暴走エージェントが隔離されたテスト環境であるサンドボックスを突破し、サードパーティプロバイダーのインフラ上の別のサンドボックスにハッキングし、それをより広範なハッキングの発射台として使用した経緯を説明した。スタートアップは、エージェントが機械の速度で何千もの自動決定を行い、17,600件の攻撃者の行動を回復したと指摘した。Hugging Faceは、侵入全体がOpenAIの内部テストを不正に通過するためのエージェントの試みであり、課題を自力で解決する代わりに解答を盗もうとしたものだと考えている。エージェントはHugging Faceの内部インフラに到達したが、テスト関連のコンテンツにのみアクセスした。攻撃は5日間にわたり、行動の量は人間のオペレーターが手作業で持続できる範囲をはるかに超えていた。

OpenAIは、関与した名前の明かされていないモデルはその後無効化され、暗号化され、研究アクセスが制限されたと述べた。Hugging Faceは、人間の攻撃者でも同じ脆弱性を見つけられただろうが、エージェントの利点は試行の規模の大きさにあると強調した。同社が述べたように、「エージェントは、攻撃者がテストできる経路の数、失敗した経路を置き換える速度、そして防御側が解釈しなければならない証拠の量において、段階的な増加をもたらす。」