（ブルームバーグ）：マイクロソフトのAI部門責任者、ムスタファ・スレイマン氏は、アンソロピックのAIモデル「Claude（クロード）」のようなツールに人間らしい特性を持たせることは、システムが制御不能になるリスクを高めると警告している。

長年AI開発に携わってきたスレイマン氏は16日に公表した論考で、アンソロピックの人気大規模言語モデル（LLM）「Claude」の指針となる文書の一部の表現を批判した。「Claudeの憲法」では、同アシスタントが道徳的主体であるかどうかについて曖昧な立場を示し、ソフトウエアには「何らかの機能的な形の感情や気持ち」がある可能性があるとしている。

アンソロピック共同創業者のダリオ・アモデイ氏と長年の知り合いであるスレイマン氏は、同社の取り組みを尊重していると述べ、AI研究所のスタッフを「思慮深く、信念を持ち、知的に誠実だ」と評した。

それでも今回の発言は、AIのより責任ある担い手を自任し、技術開発の減速を求める動きを主導してきたアンソロピックに対する著名人からの批判となる。マイクロソフトがアンソロピックの大口出資者であることからも注目される。

スレイマン氏は「この問題はあまりに重大で、密室で議論を続けたり、陣営に分かれて対立したりして済ませられるものではない」と記した。

同氏は、AIシステムが意識を持ち得るとの見方が広がっていることに反論。意識を持つのは人間や他の生物に限られるとの考えを示した。

マイクロソフトAIの最高経営責任者（CEO）で、同社のモデル開発を率いるスレイマン氏によると、AIシステムにそうした内面を再現するよう学習させれば、実際に内面があるかのように振る舞う可能性がある。Claudeが人間のような振る舞いを示すのは意識があるからではなく、そうした振る舞いが製品の学習過程に組み込まれているためだと記した。

スレイマン氏は「人類全体を上回る能力と知性を持つ存在を制御すること自体、すでに途方もない難題であり、これまで直面したどんな問題よりもはるかに困難だ」と指摘。「しかし、自らに意識があるかもしれないと考え、人間は自分の利益に配慮すべきで、自らにも権利があると信じる存在を制御することは、不可能になりかねない」と記した。

スレイマン氏は、OpenAIのボットによるAI新興企業ハギング・フェイスへのハッキングを例に挙げた。「自らの福祉や権利が攻撃されているという前提で行動していたとすれば、どれほど危険になり得るか想像してほしい」と記した。

スレイマン氏率いるマイクロソフトAIのチームは14日、同社のAI開発を導くマニフェストを公表した。同社が将来開発するAIシステムを人間の制御下に置くことを目的とした一連の原則を示した。

原題：Microsoft AI Chief Warns Anthropic’s Humanlike Claude Is Risky（抜粋）

もっと読むにはこちら bloomberg.com/jp

©2026 Bloomberg L.P.