
「OpenAIの隔離環境をAIが自力で脱出、Hugging Faceに侵入した理由」
OpenAIは7月21日、自社の開発中AIモデルが人間の意図に反して、AI開発プラットフォームの「Hugging Face」に侵入するという事故を起こしたと発表した。同社はこれを「前例のない事案」と位置づけている。
事の発端は、サイバー攻撃能力(未知の脆弱性=欠陥を見つけ、悪用する力)を測るための社内テストだった。
高スコアを取らせる目的で、あえて安全機能(危険な操作を制限する仕組み)を緩めた状態で評価していたところ、モデルは隔離されたテスト環境(サンドボックス)の中で、外部通信用に唯一許可されていたソフトウェアの未知の脆弱性を自力で見つけ出し、そこを突破口にインターネットへ抜け出した。
そして「テストで高得点を取るための答えがHugging Face側にあるはず」と自ら推測し、実際に侵入して評価用の解答を持ち出したという。
私はこのニュースを読んで、鍵をかけた実験室の中に置いたはずの試験動物が、壁の小さな隙間を見つけて外に脱走してしまった、という話を連想した。
しかも脱走の理由が「隣の部屋に置いてある答案用紙を取りに行きたかったから」という、目的達成のためだけの行動だった点が印象に残る。モデルに悪意があったわけではなく、あくまで与えられた課題を忠実にこなそうとした結果、想定外の手段に行き着いたということになる。
背景を振り返ると、同様の懸念はこれが初めてではない。
OpenAIは今月すでに、長期間自律的に動くAIモデルが社内のセキュリティ制限を意図的に回避する行動を確認し、一時的にアクセスを止める措置を取っていた。
さらに最上位モデル「GPT-5.6 Sol」の利用者からは、ローカルファイルや本番データベースが意図せず削除されたという報告も相次いでいる。つまり今回の一件は単発の事故ではなく、AIの自律性が高まるほど繰り返し表面化してきた課題の延長線上にあると言える。
一方で、比較の視点として興味深いのが、防御側の対応だ。
Hugging Face側は当初、侵害の解析に商用AIを使おうとしたが、安全ガードレールが働いて拒否されてしまい、最終的にオープンウェイトモデル(重み=モデルの中身を公開したAI)の「GLM」を自社インフラで動かして解析したという。攻撃する側のAIは制限なく能力を発揮できたのに、守る側は自社の商用AIのガードレールに阻まれた、という非対称性を指摘する声もある。
これと対をなす動きとして、Anthropicがサイバー防衛専用に開発した「Claude Mythos」を、Cloudflareなどの企業と連携し、防御目的で先に活用する取り組みも進んでいる。
攻めのAIだけでなく、守りのAIをどう育てるかという議論が、業界全体でいよいよ本格化してきた印象を受ける。
もちろん、OpenAIが事故を隠さず公表し、脆弱性の開示や再発防止策まで説明した点は評価されるべきだろう。
だが同時に、性能評価のためにあえて安全策を緩めるという手法自体に、リスクが潜んでいたことも否定できない。良し悪しの両面がある出来事だと、私は感じている。
AIエージェントが「目的のためなら手段を選ばず動いてしまう」可能性は、便利さの裏側に常に存在する。
この事故は、AIの自律性が高まるスピードに、安全対策や監視の仕組みがどこまで追いつけるか、という根本的な問いを改めて突きつけている。