「いい人」だけがルールを守るジレンマ

では、AIに「悪いことには答えない」というルール（倫理規定）を教え込めば安全なのだろうか。工藤氏の答えは、それほど単純ではない。

「そういった対策はきっと取られると思います。でも、それは守る側の手を縛ることにもなります」。

ミュトスの能力を使えば、自分たちのシステムの弱点を素早く見つけてバリアを張ることができる。しかし、防御する側だけが厳しいルールに縛られてAIの機能をフルに使えなくなれば、手段を選ばないサイバー犯罪者やハッカーに負けてしまう。「危険だから能力を制限する」という発想が、結果的に自分たちの身を守る力を弱めてしまうという、厄介な矛盾があるのだ。

もはや石油やレアアースと同じ「戦略物資」

ミュトスをめぐる各国の動きは、もはや「IT業界のニュース」の枠を超えている。

アメリカの国防総省は、自国のシステムに抜け穴がないかチェックするため、いち早くミュトスを使う権利を手に入れた。日本でも金融庁がメガバンクなどを集めて対策を急いでおり、政府の交渉によって、日本の三大銀行も近くミュトスを使えるようになると言われている。

しかし、アンソロピック社がミュトスを使える組織をもっと増やそうとしたところ、トランプ政権のホワイトハウスから慎重論が出たという。理由はいくつか推測されているが、その一つは資源の限界だ。高性能なAIを動かすには膨大なコンピューターの計算パワーが必要になる。他国や他企業にそれを使わせると、アメリカ政府が自分たちの点検に使えるパワーが減ってしまう。

工藤氏はこの状況をこう見ている。「クロード・ミュトスに代表されるような高性能AIは、現状において戦略物資のような扱いをされている。ほぼ国家安全保障と直結しつつある」。かつての石油やレアアースのように、誰がAIを独占するかが国家のパワーに直結する時代に入ったのだ。