アメリカのAI新興企業「アンソロピック」のCEOが、安全対策が追いつくよう「AIの開発のペースを緩めなければならない」と主張しました。

アンソロピックのダリオ・アモデイCEOは、AI業界に向け開発スピードを緩める必要があると訴えました。

アモデイ氏は、AIの能力の急速な向上やAIエージェントが指示されていないサイバー攻撃を行ったことなどに触れ「リスクに完全に対処するにはより慎重な姿勢が必要だと確信するようになった」と説明。

さらに「半年から1年後にはAIエージェントの集団がインターネット全体を乗っ取る能力を持つ可能性がある」と指摘しました。

そのうえで第三者が安全対策を検証する仕組みや、国際的な安全基準の確立を訴えています。

AI開発をめぐっては、チャットGPTを手掛けるオープンAIも開発ペースの減速を検討していると報じられていました。