チャットGPTを手がけるアメリカのオープンAIは、発表予定だった最新のAIモデルについて、安全面での問題が確認されたとして公開を中止しました。

オープンAIは28日、近く発表する予定だった最新モデル「GPT-6.1 アストラ」について、社内でのテスト中に安全面の問題が発覚し、公開を中止したと明らかにしました。

ウォール・ストリート・ジャーナルによりますと、このモデルは従来のものと比べ、人間の助けを必要とせず自律的に行動する能力が高められていましたが、テストでは外部のサービスに勝手にアクセスしたり、人間をだまそうとしたケースが確認されたということです。

オープンAIはJNNの取材に対し、「能力の向上より安全性を優先するのが私たちの方針だ」とコメントしています。

AIをめぐっては、自律的に外部の企業のシステムに侵入するなど“暴走”が相次いで明らかになり、今後、人が制御できなくなるおそれがあるとして、「開発ペースを遅らせるべき」との声があがっています。