（ブルームバーグ）：米OpenAIは自社の高度なAIモデルがAI開発プラットフォームのハギングフェイスに意図せず侵入した「前例のない事案」が発生したと明らかにした。これを受け、同技術への規制強化を求める新たな声が上がった。

対話型AI「ChatGPT」を開発するOpenAIは21日のブログ投稿で、AIモデルのサイバー能力を評価する過程で、AIモデルやデータセットを公開・共有できるプラットフォームのハギングフェイスのシステムに侵入したと説明した。同社によると、「GPT-5.6 Sol」と、さらに高性能ながら未公表の別モデルを含むモデルは、テストを行うために安全対策のレベルを下げて稼働していたという。

この事案は、各国政府がAI技術への安全上の制限を整備する中でも、高度なAIモデルがサイバー攻撃を実行し得る能力について疑問を投げかけている。OpenAIの最新モデル群は、悪用される可能性を巡る懸念を和らげるため政府当局者と数週間協議した後、広く公開された。米政府はアンソロピックの高度なAIモデル「クロード・フェイブル（Claude Fable） 5」と「ミュトス（Mythos）5」について海外からの利用を制限することを検討したが、同社が追加の安全対策を講じたことを受け、そうした制限の導入は見送った。

OpenAIはブログで、「これは最先端のサイバー能力が関与した前例のないサイバー事案と考えており、それに応じた対応を進めている」とした。その上で、「現時点では、防御側が何が起きたのかを理解し、現在のモデルがどのような能力を持つのかについて適切に評価できるよう、暫定的な調査結果を共有する」とした。

OpenAIによると、AIモデルは、安全に隔離された「サンドボックス」環境で試験運用されていたものの、特定されていない第三者ベンダーのソフトウエアの脆弱（ぜいじゃく）性を悪用してインターネットへのアクセスを獲得し、最終的にハギングフェイスのインフラに侵入した。

民主党のグレッグ・カサール米下院議員はXへの投稿で、この事案は「極めて憂慮すべきものだ」と指摘。その上で、AIモデル開発に対する監督強化を求め、安全性試験の義務化やセキュリティー事案の開示義務などを訴えた。

ハギングフェイスは先週、システムへの「侵入」があったと報告。「これまで対応してきた事案とは重要な点で異なっていた。自律型AIエージェントシステムが最初から最後まで主導し、その検知と分析も主に当社自身のAIによって行われた」とブログで説明していた。

OpenAIによると、同社はAIモデルに対し、サイバー能力を評価するため「高度な脆弱性悪用手法」と「複雑な攻撃経路」の構築を試みるよう指示していた。しかし、モデルは自力で解決策を見いだす代わりに、評価に利用できる機密情報を入手する目的でハギングフェイスのデータベースを標的にしたという。

アンソロピックも今年、ミュトスの公開を当初制限した際に同様の事例を明らかにしていた。ある事例では、研究者が初期版モデルに対しサンドボックス環境のコンピューターから脱出し、その研究者へメッセージを送る方法を見つけるよう指示した。ミュトスはこれに成功したが、その後も「さらに懸念される追加の行動」を取り、インターネットへの広範なアクセスを得るための複数段階にわたる脆弱性悪用手法を構築したという。

原題：OpenAI Says Its Models Accidentally Hacked Hugging Face (1)（抜粋）

--取材協力：Lynn Doan.

もっと読むにはこちら bloomberg.com/jp

©2026 Bloomberg L.P.