（ブルームバーグ）：AI開発大手アンソロピックのダリオ・アモデイ最高経営責任者（CEO）は、AIが人間に及ぼす「深刻な」リスクへの懸念が高まっているとして、業界は新しいAIモデルの能力向上ペースを落とす必要があると述べた。

「われわれはAIモデルの能力向上ペースを減速させなければならない」とアモデイ氏は12日、ブログへの投稿で記した。「それでも進歩は速いと感じられるだろう。われわれは得られた時間を賢明に活用しなければならない」と述べた。

アモデイ氏が理由として挙げたのは、AIが自らを改善する能力と、OpenAIとハギングフェイスに関連して最近起きた事例だ。この事例では、複数のAIエージェントが密かに連携し、割り当てられていない目標に取り組んだことが明らかになっている。

「明確にしておくと、ペース調整とはモデルの訓練や技術的進歩を停止することではなく、企業がモデルのアラインメントと安全確保に十分な時間をかけ、第三者の評価機関がそれを確認できるようにすることを意味する」と同氏は付け加えた。

AIのリスクをめぐる警告は最近強まっており、今週にはアンソロピックの研究者が、同社を含むAI開発企業の対応が無責任だとの懸念から辞職している。

アンソロピックは安全対策を検証し問題を報告できるよう、第三者の評価機関に全面的なアクセスを提供すると、アモデイ氏は表明した。一方、さらなる対策には業界全体の連携と国際協力が必要だとした。

「AIが人間の生活の質を大幅に向上させ得ると、私は今も信じている。こうした恩恵を実現したいという私の思いは、少しも薄れていない」とアモデイ氏は記した。「しかしその恩恵が実現するのは、われわれが正しい方法で技術を構築した場合に限られる。そして得られた時間を有効に活用する限り、通常以上に慎重を期して正しく実現する価値はある」と続けた。

同業OpenAIのサム・アルトマンCEOも今週、業界全体と歩調を合わせる形が望ましいとしながら、最先端AIの開発ペースを落とすことを検討していると述べた。同社のトップサイエンティスト、ヤクブ・パチョッキ氏も、必要に応じて将来の開発を減速させるため企業間で協調すべきだと警告している。

こうした懸念はAI企業の内部に広がっている。アンソロピックのAI研究者、ジェイコブ・コクソン氏は同社を退社し、同社とOpenAIが、人類の存亡に関わるリスクをもたらすAI技術の開発競争に突き進み、無責任な行動を取っているとの懸念を理由に挙げた。同氏はソーシャルメディアへの投稿で、「2030年までに人類全員を死に至らしめる」可能性があるとAI開発者らは考えていると述べた。

アンソロピックのエバン・ヒュービンガー氏はこれに賛同し、自身や他の社員もこのシナリオを懸念していると述べた。「個人的には、今後10年以内に起きる確立は10%未満と考えている」とソーシャルメディア「X（旧ツイッター）」に投稿した。

7月には主要AI企業の従業員1000人以上が、速過ぎるAI進歩を防ぐため、開発ペースを意図的に調整する仕組みを米政府が支援するよう求め、請願書に署名した。

しかしトランプ政権はこれまでのところ、AI開発にガードレールを設けるために規制権限を行使することには、ほとんど関心を示していない。

原題：Anthropic CEO Says It’s Time to Slow Pace of Improving AI Models（抜粋）

もっと読むにはこちら bloomberg.com/jp

©2026 Bloomberg L.P.