（ブルームバーグ）：アンソロピックは5日、人工知能（AI）がもたらし得るリスクを回避するため、政府とAI開発企業が共同で、技術開発を管理する仕組みの創設を呼びかけた。

アンソロピック共同創業者のジャック・クラーク氏とアンソロピック研究所のマリーナ・ファバロ所長は、長文のブログ投稿で、「危険になり得るAI開発を減速させたり、一時的に停止したりする選択肢を世界が持つことが望ましい」と述べた。

両氏は、AIは人間の仕事の効率を数千倍に高めたり、場合によっては置き換えたりできる段階に近づいており、それに伴い新たなリスクも生じていると強調した。

アンソロピックは、業界各社に加え、自国の技術開発を巡って長年競争を続けている各国政府が、開発の一時停止で合意することがいかに難しいかも認めている。同社はこれまでも、政府や競合企業に対し、一定の基準や閾値を設けるよう求めてきた。

同社は2023年、自ら開発上の制限を設け、危険になり得る技術については開発を停止するとしていた。しかし今年に入ってその方針を緩和し、競合他社に対して十分な優位性を持たない場合には開発を停止しないと表明した。

こうした方針転換についてアンソロピックは、政策環境が安全性重視からAIの競争力や経済成長を優先する方向へ変化したためだと説明している。

同社は5日、今後数カ月にわたり政策当局者や他のAI企業と会い、より良い協調のあり方について話し合ったうえで、その結果を公表する考えを示した。

クラーク氏とファバロ氏は、AIが近く自らを改良し、さらに後継となるAIを構築できるようになる可能性があり、人間の役割が相対的に小さくなると指摘した。このため、開発の集団的な一時停止を判断するための枠組みの重要性が増しているという。

両氏は、「自己再帰的に、より速いペースで構築された知能と、人間や人間関係、統治の世界とが交わる。その衝突は、われわれが予測できない未来のもう一つの側面だ」と記した。

ブログ投稿では、こうした構想を核兵器の国際的な規制になぞらえた。そのうえで、開発停止の仕組みを導入する場合でも、倫理観に欠けるAI研究機関が停止期間中に密かに開発を続けて技術を進歩させないよう、他の研究機関による検証などが必要になるとの考えを示した。

AI研究者らは以前から、政府に対しAI開発の一時停止を求めてきた。2023年には、非営利団体フューチャー・オブ・ライフ研究所が、壊滅的な影響が生じる可能性を警告し、AIに安全対策を導入するため少なくとも6カ月間の開発停止を呼びかけた。

提言には、イーロン・マスク氏を含む1000人超の研究者や経営者が署名した。一方で当時の批判派は、開発停止によってイノベーションが阻害され、開発を止めない他者に優位性を与えることになると主張していた。

アンソロピックも、この課題をブログで認めている。

ブログでクラーク氏らは「学習実行はミサイル発射施設よりはるかに隠しやすく、その投入資源も汎用的だ。他者が停止している間に開発を続ければ主導権を握れる可能性があるため、密かに離脱する誘因は極めて大きい」と述べた。

アンソロピックはその一方で、人気のAIアシスタント「Claude（クロード）」や、サイバーセキュリティー上のぜい弱性を極めて高速に発見・悪用できるという新モデル「Mythos（ミュトス）」など、高度なAIモデルやツールの投入も続けている。

原題：Anthropic Says World Needs System to Decide on AI Work Pause (2)（抜粋）

もっと読むにはこちら bloomberg.com/jp

©2026 Bloomberg L.P.