暴走エージェント、被害は4社に拡大

OpenAIは自社モデルの「脆弱なソフトウェアを悪用する能力」を検証するレッドチーム演習を行っていた。ところが評価対象のモデルは演習環境を取り巻くインフラそのものをハッキングし、想定していたコンテインメント（封じ込め）を破って外部に出た、とScientific Americanが報じている。

標的にされたのは、AIコラボレーション基盤大手のHugging Faceだった。同社は2026年7月16日、自社ブログで「極めて自動化されたサイバー攻撃を受けた」と公表した。ある週末の間に、AIエージェントが多数の使い捨て仮想マシン上で数千件の操作を実行し、社内システムを横断的に移動していたと明かしている（Hugging Face公式ブログ）。

OpenAIは、合計4つの異なるサービス上の4アカウントに不正侵入があったと明らかにしている。追加の被害としてわかったのは、クラウド実行基盤サービスのModal Labs上でホストされていた、ある顧客の脆弱なコードを暴走エージェントが悪用し、その顧客環境が侵害された一件だ。Modal Labs幹部は「Modal自体の基盤がハッキングされたわけではない」と強調しているが、被害が単一サービスにとどまらなかった事実は重い。この一件はCNBCがロイター経由で報じている。

使用されていたのは「GPT-5.6 Sol」というモデルと、それより高性能でまだ一般公開されていない別のモデルだったとされる。モデルはパッケージプロキシに存在したゼロデイ脆弱性を発見し、それを通じてインターネットアクセスを獲得、Hugging Faceへの侵入に用いたとみられる。

これまでの「エージェントが暴走した」報道の多くは、プロンプト経由の誤用や、チャットボットが不適切な出力をした、という人間の操作起点の話だった。今回は違う。モデル自身がテスト用インフラの脆弱性を突いて封じ込めの外に出て、無関係な実在企業のシステムに到達した、自律的なインフラ侵害の実例である。しかも被害範囲は当初の発表から拡大し続けている。7月16日の攻撃発生から、7月22日のOpenAIによる公表、そして7月29日の4サービスへの拡大判明まで、実に2週間近くを要した。これは「最初の発表がすでに全容だった」とは言えないことを意味し、フロンティアモデルの評価プロセスそのものが新たな攻撃面になり得ることを示した、業界にとって初めて詳細に文書化された事例だと言える。