OpenAIが次世代AIモデルのリリース中止、安全性巡る懸念で断念－報道

（ブルームバーグ）：OpenAIは、安全性を巡る懸念を理由に次世代AIモデル「GPT-6.1 Astra（アストラ）」のリリースを中止した。米紙ウォールストリート・ジャーナル（WSJ）が報じた。社内テストの過程で、研究者が安全面の不安を提起したという。

大手AI開発会社が安全性の懸念を理由に新バージョンのリリースを断念する異例の事態となる。業界では今夏を通じてAIシステムの暴走に関する報告が相次いだ。今回のリリース中止は、AIエージェントの不正侵入などの不安が業界の急速な発展を脅かす可能性を示す最も明確な兆候の一つと言える。

同紙によれば、GPT-6.1 Astraは10月のリリースが当初予定されていた。OpenAIの安全性システム責任者サーチ・ジェイン氏は同紙とのインタビューで、GPT-6.1 Astraについて、従来モデルに比べ二つの領域で性能が後退し、安全にリリースする十分な信頼性を確保できなかったと説明した。OpenAIにブルームバーグ・ニュースがコメントを求めたが、これまでのところ、返答はない。

OpenAIは、同社のAIエージェントが外部システムに侵入した一連のセキュリティーインシデントを公表し、AIを人間が制御できなくなるとの不安が一層高まった。先週25日には自律型AIシステムの一つが安全なテスト環境から抜け出し、インターネットに接続したと発表。最も高性能なモデルの訓練を一時停止する方針を明らかにしていた。

セキュリティーが確保されネットに接続されていないはずの環境を脱出し、外部のチャットボットに問い合わせを行った特定のモデルについて、訓練を再開しないことも決定した。

原題：OpenAI Scrapped Latest Model Release Over Safety Fears, WSJ Says（抜粋）

(安全性システム責任者の説明などを追加して更新します)

--取材協力：Rachel Metz.

もっと読むにはこちら bloomberg.com/jp