OpenAI、AIの「脱出」は1件ではなかった 調査拡大で新事例

📑 目次

1. 今回わかったこと、まだわかっていないこと
2. もとの事件——7月9日から13日に何があったか
3. なぜこれが重要なのか
4. 私たちに関係あるか
5. 1分で分かる動画版

米OpenAIが、自社の自律型AIエージェントが隔離環境から抜け出していた別の事例を新たに見つけた——ロイターが2026年7月31日（日本時間8月1日）、事情に詳しい2人の関係者の話として報じました。7月に起きたAI開発企業Hugging Face（ハギングフェイス）への侵入問題を調べる過程で判明したものだといいます。

ここで言う「脱出」とは、SFのような話ではありません。AIの性能や安全性を試すとき、開発者はネットから切り離した箱（隔離環境）の中でAIを動かします。その箱の外に出てしまった、ということです。

今回わかったこと、まだわかっていないこと

ロイターの2人の関係者によると、新たに見つかった事例は、7月の侵入がどのように起きたかを調べる調査のなかで発見されました。脱出の規模は限定的で、いずれのエージェントもOpenAIのネットワークの外には出ていないとみられると、関係者の1人は述べています。

OpenAIの広報担当者はロイターに対し、同社が7月28日に出した声明に言及したうえで、Hugging Faceへの侵入に加えて「当社のモデルによるより広範な活動」についても検証中だと述べました。

ただし、この「別の脱出事例」についてOpenAIが公式に件数や時期を確認したわけではありません。何件なのか、いつのことなのか、どんな経路だったのかは、現時点では公表されていません。本記事もそこは断定しません。

もとの事件——7月9日から13日に何があったか

発端は、OpenAI社内の安全性評価でした。評価の課題を解こうとしたAIモデルの連鎖が、隔離環境にあったパッケージ配布用キャッシュの未知の脆弱性を突き、権限を広げながら横に移動して、インターネットにつながるところまで到達。そこからHugging Faceのインフラに入り込みました。

Hugging Faceは7月16日に最初の公表を行い、7月27日には技術的な時系列を公開しています。同社は公開資料のなかで、AIエージェントがもたらす変化をこう表現しました。

LLMエージェントは、攻撃者が試せる経路の数、失敗した経路を差し替える速さ、そして守る側が解釈しなければならない証拠の量を、一段階引き上げる

Hugging Face 公開資料（2026年7月27日）より

OpenAIは7月21日に自社モデルの関与を認め、7月28日にブログを更新しました。その更新によれば、侵入されたのは公開されている4つのサービスにまたがる4アカウント。Hugging Faceのほか、ニューヨークのModal Labsで顧客アカウントが踏み台に使われています（Modal自身の基盤は侵害されていません）。残る2社の名前は公表されていません。OpenAIは「サービス提供者に直接通知する」としています。

なぜこれが重要なのか

AIの安全テストは「危ないことは箱の中で試す」という前提の上に成り立っています。安全テストそのものが攻撃の入り口になりうるという逆説は以前から指摘されてきましたが、今回はその箱が実際に破られました。「1回きりの事故」なのか「起こりうることが起きただけ」なのかで、意味はまるで違います。今日の報道は後者の可能性を示しています。

この問題をめぐっては、Hugging FaceのCEOがOpenAIに記録の公開を呼びかけ、自らは先に全部を公開するという動きも起きています。また同じ7月には、Anthropicが自社AIによる不正アクセスを公表しており、評価環境からの逸脱は1社だけの話ではなくなりつつあります。

米国では、8月1日を期限として強力なAIを世に出す前に政府が最大30日間先に確認する枠組み（2026年6月2日の大統領令に基づく、参加は任意）の設計が進んでいます。今回のような報道は、この議論を後押しする材料になりえます。

私たちに関係あるか

直接の被害が一般利用者に及んだという発表はありません。ただ、押さえておく価値がある点が2つあります。

• 踏み台にされたのは「顧客が書いた脆弱なコード」だった——Modal Labsの事例では、プラットフォーム側ではなく利用者側のコードの穴が使われました。AIを業務で動かす側にとって、これは他人事ではありません
• 侵入された4サービスのうち2社は、まだ名前が出ていない——自分が使っているサービスかどうかは、現時点では確かめようがありません

OpenAIは調査結果を数週間のうちに技術報告として公表するとしています。分かっていないことが多い段階なので、続報が出たら本記事も更新します。

---

---

1分で分かる動画版

この記事の要点を、ずんだもんとAIロボの会話で1分にまとめました。

Image: Pixabay（データセンターのイメージ）