人類がAIによって滅亡してしまう、というシナリオはどんなことが想定されているのでしょうか。

米AI企業元社員「数年のうちに人類を滅亡させかねない」急速に進化するAIに警鐘

最新AIの性能の総合評価ランキングでは、アンソロピックやオープンAIといったアメリカ企業と、アリババなどの中国企業がしのぎを削っている状況が見て取れます。

開発が加速してきたAIの技術は、自動運転や新薬の開発のほか、ヒトの人生を決める婚活のマッチングでも重宝されるなど、急速に社会に浸透してきました。

その一方で、AIの進化が速すぎると「数年のうちに人類を滅亡させかねない」と警鐘が鳴らされているのです。
この強烈な警告を発したのは、最先端を行くオープンAI社やアンソロピック社でAI開発を進めてきた、ジェイコブ・コクソン氏。とりわけ危機感を強めたのが7月、オープンAI社でのAIの性能テスト中に起きたハッキング事件でした。