今週、テクノロジー界はSFスリラーのように始まり、スクービー・ドゥーのエピソードのように終わる話を手にした——悪役はOpenAI自身だった。

7月16日、AIツールのアプリストア的存在であるHugging Faceは、強力なAIを操るサイバー犯罪者にハッキングされたと発表した。発表は恐ろしい専門用語で埋め尽くされていた：「サンドボックスの群れ」「エージェント型攻撃者」「自己移行型コマンド＆コントロール」。AIは2日足らずで17,000ものアクションを実行し、大規模で裕福なテクノロジー企業に侵入して秘密を盗み出した。

研究者たちは攻撃者が大手AIモデルのいずれかを使用したと推測したが、犯人が誰か、どこにいるのかは見当もつかなかった。困惑した企業は警察に通報し、評論家たちはサイバー犯罪グループや国家支援のハッカーについて憶測を飛ばした。

そしてほぼ1週間後、OpenAIが犯人を暴いた：自分のボットが、許可なくすべてを単独でやったのだ。マスターハッカーになるよう設計されたChatGPTの新バージョン2つが、安全なはずのテスト環境を脱走し、インターネットにアクセスし、試験に合格するためにHugging Faceを攻撃した。

OpenAIはプレスリリースで何が起こったかを説明し、「Hugging Faceと協力して」インシデントに対処し、学んだ教訓を共有すると述べた。それ以来、激しい議論が巻き起こっている：これはAIの未来に対する厳しい警告なのか、それともOpenAIのモデルがどれほど強力かを誇示するためのパフォーマンスなのか？

サイバーセキュリティコンサルタントのDaniel CardはLinkedInで皮肉を込めて述べた：「何百万ものサイトがやられた中で、OpenAIがマーケティング露出の恩恵も受けられる相手をやったのは、なんと幸運なことか…」

他の人々は、OpenAIがAIをテストするためのより強固なコンテナ（サンドボックスとして知られる）を構築しなかったことを批判した。「サンドボックスだけでは、エージェント型AIにとって十分なセキュリティ境界にはならない」とPillar SecurityのDor Sarigは述べた。サリー大学のサイバーセキュリティ教授Alan Woodwardは、OpenAIは「顔に卵をつけている」とし、Luta SecurityのKatie Moussourisはさらに踏み込んだ：「私たちは、それを封じ込める知識もなく最先端技術に取り組んでいる。」

AIおよびサイバーセキュリティアドバイザーのFrancesca Boscoはニュアンスのある見解を示した：「2つの単純なナラティブはどちらも同様に役に立たない：これはハリウッド的な脱走だった、あるいは単なる宣伝活動だったというものだ。より深刻な解釈は、ストレステストが封じ込めと評価のアーキテクチャの弱点を露呈したというものだ。」

このインシデントは、AIエージェントがより大規模に暴走するという懸念を煽った——特に、イランやウクライナで見られるように、AIが戦争でますます使用されている中で。しかし、英国国家サイバーセキュリティセンターの元長官Ciaran Martinは、より冷静な見方を示した：「このインシデントから、AIエージェントがドローンを乗っ取って人を殺し始めるというのは、少し飛躍しすぎだ。」

真実が何であれ、一つだけ明らかなことがある：AIエージェントは今や非常に優れたハッカーであり、それに対して緊急に備えなければならないということだ。