アメリカのAI新興企業「アンソロピック」のCEOが、安全対策が追いつくよう「AIの開発のペースを緩めなければならない」と主張しました。

アンソロピックのダリオ・アモデイCEOは12日までに自身のホームページを更新し、AI業界に向け開発スピードを緩める必要があると訴えました。

アモデイ氏はAIの能力が急速に向上していることやAIエージェントが指示されていないサイバー攻撃を行ったことなどに触れ、「リスクに完全に対処するにはさらに慎重な姿勢が必要だと確信するようになった」と説明。さらに「半年から1年後にはAIエージェントの集団がインターネット全体を乗っ取る能力を持つ可能性がある」と指摘しました。

そのうえでAI企業に対し第三者が安全対策を検証できる仕組みを設けることなどを求め、政府にも国際的な安全基準を確立することを訴えています。

AIの開発競争が激しくなるなか、アモデイ氏は「安全なペースで開発を進めるための取り組みは簡単ではない」としつつ「人類のために挑戦する義務があると信じている」と呼びかけました。

AIの開発をめぐってはチャットGPTを手掛けるオープンAIも最先端のAIの開発ペースを減速させることを検討していると報じられていました。