「人間が暴走すればAIも暴走する」

日進月歩のAI技術にルール作りが追いつかない現実の中、“核”の管理をAIにゆだねる日が訪れるのではないかという懸念が生まれる。

生命倫理政策研究所共同代表　橳島次郎氏
「通常兵器の管理でもAIにゆだねることにも多くの国や団体が脅威だと思っている。だからこれを越えて核兵器の管理をAIにゆだねるなんてことは私は今日まで考えたこともなかったんで、それは飛び過ぎかと…」

さすがに最後の判断、いわゆる核のボタンを押すのは人間であることは揺るがないかもしれないが、そこに至るまでの過程にAIが介在していることは現状間違いない。敵が核ミサイルを発射するかもしれないと判断するための情報収集や迎撃の必要性など様々なポイントがAIにゆだねられている。

海外事情研究所長でもあり、防衛産業を専門とする佐藤丙午教授は言う。

拓殖大学　佐藤丙午教授
「そこが一番大きな問題。最後は人間が関与したとしても、情報収集の時点でAIが何らかの間違いをして人間に情報を伝えた場合、人間が最後に撃つ撃たないを判断する時、正確な情報で攻撃しているのか保障できない。となると人間の関与の仕方を広く捉えるのか狭く捉えるのか…」

番組のニュース解説、堤氏は根本的なことを語った。

国際情報誌『フォーサイト』元編集長　堤信輔氏
「AIといっても元々のプログラミングするのは人間。人間が暴走すればAIも暴走する。AIに任せようが任せまいが人間の暴走はありうる。例えば今ロシアのプーチンに起こっていることだし…。（中略）結局人間の管理に尽きる。でも強権的な国では人間の管理ができないというのがまた現実なのです」

（BS-TBS『報道1930』3月27日放送より）