邪魔とみなせば人間も排除？ 「超人的な存在になってしまう」

これを目の当たりにしたコクソン氏は「このままではAIは、何でもハッキングできるようになり、一夜にしてあらゆる領域の秩序を覆し、現実の力と資源を掌握する超人的な存在になってしまう」と危機感を強めます。

これは具体的にどういうことなのか？

AI研究者で、北陸先端科学技術大学院大学客員教授の今井翔太氏は、「人間からの指示を与えられると、価値観が人間とずれたAIは、人間ではありえない行動を起こすことがある。例えば、目的達成に必要と考えれば電力などの資源を奪おうとして、基幹インフラの制御を奪うサイバー攻撃を仕掛けたり、その過程で人間を邪魔モノだとみなせば排除しようとして、重篤な感染症を引き起こすウイルスを拡散させたりする可能性がある、という学説が以前から存在した」といいます。