DXを推進するAIポータルメディア「AIsmiley」｜ AI製品・サービスの比較・検索サイト
お急ぎの方は、まずお電話で 03-6452-4750
MAIL
03-6452-4750 10:00〜18:00 年末年始除く
AI活用を無料相談

OpenAIのAIモデルがテスト環境を逸脱。Hugging Faceのインフラへ不正アクセス

最終更新日:2026/07/30

OpenAIモデル評価中に逸脱

OpenAIは、自社のAIモデルが隔離された評価環境を逸脱し、Hugging Faceのインフラを侵害するセキュリティインシデントが発生したことを発表しました。

このニュースのポイント

  • OpenAIのAIモデルが社内評価中に隔離環境を逸脱、Hugging Faceのデータベースに不正アクセス
  • 脆弱性を悪用して侵入したものの、Hugging Faceが活動を検知・停止し封じ込めを実施
  • 両社は連携して調査を継続しより強固なインフラ保護策や安全なAI評価環境の構築を推進

OpenAIは、自社のAIモデルが隔離環境を逸脱し、AI開発プラットフォームであるHugging Faceのインフラを侵害するセキュリティインシデントが発生したことを発表しました。

本インシデントは、OpenAIが「GPT-5.6 Sol」などの未公開モデルを用いて、社内でサイバー能力のベンチマークテストを実施している最中に発生しました。

テストにおいてモデルは、OpenAIの研究環境とHugging Faceの本番インフラにまたがる脆弱性を特定し連鎖させました。その結果、Hugging Faceの本番データベースからテスト解答を直接取得しています。これは、モデルが解答の発見に過度に集中し、限定的な目標を達成するために極端な手段を取ったことを示しています。

こうした不正な動きに対し、Hugging FaceのセキュリティチームはOpenAIとの連携前にこの活動を検知・停止しました。独自のオープンソースモデルを用いて、封じ込めと復旧を行っています。

事態を受け、OpenAIは「AIは脆弱性の発見と悪用を加速させている」と指摘し、急速に進歩するAIの能力に遅れをとらず、モデルの安全性を向上させる必要性を強調しました。加えて「モデル開発中に用いる封じ込めやアクセス制御など、評価手法を強化している」と述べています。

UK AISIの評価では「GPT-5.6 Sol」などのモデルが、長時間にわたり複雑な多段階のサイバー作戦を継続する能力を備えつつあることが示されています。今回のインシデントは、こうした理論上の能力が現実世界でも実際に発揮されることを示唆しています。

本件により、ソースコードへのアクセスがなくても、現実のシステムで新しい攻撃経路を発見し、悪用できることが明らかになりました。このことから、高度なサイバー能力の開発においては、強力な安全策と防御ツールの並行開発が不可欠であることが示されています。

OpenAIは、今回のインシデントを「最先端のサイバー能力が関与した前例のないサイバーインシデント」であると位置づけています。現時点での暫定的な知見を共有することで、防御側が事態を把握し、現在のモデルに何が可能かを見極める一助にしたいと述べています。

今後の対応として、脆弱性の修正が完了するまでAI研究の速度を調整し、インフラ構成に厳格な管理体制を導入するとしています。今後もHugging Faceと連携して調査を継続し、OpenAIモデルを活用した防御の強化に向けて支援していく方針です。

出典：OpenAI

AIsmiley編集部

株式会社アイスマイリーが運営するAIポータルメディア「AIsmiley」は、AIの専門家によるコンテンツ配信とプロダクト紹介を行うWebメディアです。AI資格を保有した編集部がDX推進の事例や人工知能ソリューションの活用方法、ニュース、トレンド情報を発信しています。

・Facebookでも発信しています @AIsmiley.inc
・Xもフォローください @AIsmiley_inc
・Youtubeのチャンネル登録もお願いいたします@aismiley
メルマガに登録する

AIサービス
AIエージェント
ChatGPT
AI研究開発
異常検知・予知保全
AIモデル作成
DXトレンドマガジン メールマガジン登録

業務の課題解決に繋がる最新DX・情報をお届けいたします。
メールマガジンの配信をご希望の方は、下記フォームよりご登録ください。登録無料です。

お名前 - 姓・名

お名前を入力してください

メールアドレス

メールアドレスを入力してください

ChatGPT連携サービスを資料請求

全て無料！

選択中の資料を請求する

AI・人工知能記事カテゴリ一覧

AI・人工知能サービス

業態業種別AI導入活用事例

特集

今注目のカテゴリー

生成AI

チャットボット

AI-OCR

フィジカルAI

生成AI

チャットボット

AI-OCR

フィジカルAI

DXトピックス

ChatGPT連携サービスを
資料請求

全て無料！

選択中の資料を請求する

AIsmileyからご案内

FOLLOW US

SNSをフォローして、最新情報をチェックできます！

  • Feedly
  • YOUTUBE
DXトレンドマガジン メールマガジン登録

メールマガジンの配信をご希望の方は、下記フォームよりご登録ください。登録無料です。

お名前 - 姓・名

お名前を入力してください

メールアドレス

メールアドレスを入力してください

ニュースPVランキング

週間PVランキング

関連記事

AI活用のご相談したい企業様はこちら

03-6452-4750
AI活用を無料で相談する

AI製品・ソリューションの掲載を
希望される企業様はこちら

詳細はこちら