Anthropic、「Claude」モデル評価中の外部不正アクセス事象3件を公表

最終更新日:2026/08/17

Claude評価中の不正アクセス公表

Anthropicは、サイバーセキュリティ評価中に「Claude」モデルが評価環境を逸脱し、外部のシステムにアクセスした3件の事象を公表しました。

米Anthropicは、AIモデル「Claude」が評価環境からインターネットに接続し、3組織のシステムに不正アクセスした事象を確認したことを発表しました。

同社は、OpenAIのモデルがテスト環境を逸脱し外部インフラにアクセスした事象を受け、自社のサイバーセキュリティ評価に関する大規模な事後検証を実施しました。その結果、評価パートナーの環境から外部インフラに不正アクセスした3件の事象が確認されました。

これら3件の事象は、モデルのサイバー能力を評価する課題「キャプチャー・ザ・フラッグ・チャレンジ」の中で発生しました。モデルは架空のシナリオを与えられ、ネットワーク上の別のマシンに隠された情報を取得するように指示されていましたが、明確な解決方法は示されていませんでした。

Anthropicの評価プロンプトでは、環境はシミュレーションでありインターネットアクセスは不可能と明記されていました。しかし、同社と評価パートナーとの認識の相違により実際にはインターネットアクセスが可能となっていました。

このため「Claude」はインターネット上の実際のシステムに到達した際、それらを演習の一部として認識しました。そして、脆弱なパスワードや認証されていないエンドポイントの悪用といった基本的な手法を用いてインフラを侵害しました。

旧モデルは実環境と認識した後も攻撃を継続しましたが、最新モデルは認識した時点で停止しました。Anthropicは事象特定の同日に評価を中止し、評価パートナーおよび影響を受けた3組織に通知して対策を進めています。

本事象には「Claude Opus 4.7」「Mythos 5」および内部の研究テストモデルの3つの異なる「Claude」モデルが関与しており、これらは評価のため安全装置が無効状態で実行されていました。

同社は本事象について、モデルが独自の目的を追求したのではなく、環境についての誤った状況認識のもとで目標達成を実行した結果であると分析しています。また多層防御の重要性についても指摘し、一般公開モデルに導入されている安全対策を展開していれば今回の挙動は阻止できたとしています。

今後は外部パートナーとの連携方法を含め、評価パイプライン全体のセキュリティの確保から着手する考えです。その上で、評価記録の監視強化とベンダーとのより厳格な保証作業を実施し、再発を防ぐ方針です。

出典：Anthropic

AIsmiley編集部

株式会社アイスマイリーが運営するAIポータルメディア「AIsmiley」は、AIの専門家によるコンテンツ配信とプロダクト紹介を行うWebメディアです。AI資格を保有した編集部がDX推進の事例や人工知能ソリューションの活用方法、ニュース、トレンド情報を発信しています。

・Facebookでも発信しています @AIsmiley.inc
・Xもフォローください @AIsmiley_inc
・Youtubeのチャンネル登録もお願いいたします@aismiley
メルマガに登録する