危険すぎるAI「ミュトス」の脅威　もはや石油やレアアースに匹敵する戦略物資に

誰がAIの使い道を決めるのか

民間企業が「誰にAIを使わせるか」を勝手に決める仕組みには、当然不安が残る。工藤氏は「こういう基準で提供先を決めます、というルールをあらかじめ作って、そのルールに則って審査をして提供していく」という、誰もが納得できる透明なルール作りを提案する。

ただ、「トランプ政権なので、パワーのある組織が横紙破りを既成事実化しそうな気もする」とも漏らす。だからこそ、企業に「安全性を重視するブランド」を守らせるためには、私たち一般ユーザーが声を上げ、世論のプレッシャーをかけていくことが大切になる。今回、競合他社と比べて安全性に配慮するアンソロピック社が最初に名乗り出たことは、一つの良い枠組みを作ったと評価できるという。

日本にできる「橋渡し」の役割

日本はどう対応していくべきだろうか。日本の金融機関のシステムは古くから複雑に継ぎ接ぎされており、しかも24時間止めることができない。「飛行機を飛ばしながらエンジンを変える」ような難しさの中で、AIの脅威に立ち向かわなければならない。

その中で工藤氏が重視するのは、ミュトスを機に、基本的な「守り」を着実に固めることだ。それに加えて、国際的なリーダーシップの発揮にも期待を寄せる。つまり、日本が東南アジア（ASEAN）などの声をアメリカに届ける「仲介者」になることだ。「欧州が呼ぶと行かないというアメリカ政府高官がいても、日本だったら来てもいいかな、と思っている方はいる」。

日本はこれまでも「広島AIプロセス」などで、世界的なAIルールの話し合いをリードしてきた実績がある。技術を使うだけでなく、倫理や安全面から「AIをどう縛るか」という議論で存在感を示すことが求められている。
AIが「人間にとってリスクがあるかもしれない存在」だった時代は終わり、これからは「AIが人間よりも先に、社会の弱点を見つけ出してしまう時代」になる。クロード・ミュトスの登場は、その恐ろしい現実を私たちに突きつけた。
どうAIをコントロールするか、ルールはまだ決まっていない。だが、ルールが決まるのを待つ余裕もないまま、生き残りをかけた激しい競争はもう始まっているのである。