アメリカの新興AI企業「アンソロピック」の研究者がAI企業間の過熱する開発競争が人類の滅亡を招く可能性があるなどと警告し、退職しました。

8日にアンソロピックを退職したとSNS上で明らかにしたのは研究者のコクソン氏で、チャットGPTを開発しているオープンAIでも以前、AI研究に携わっていました。

コクソン氏は両社について「責任ある行動をとっておらず、人類の知能をはるかにしのぐ“超知能”の開発に突き進み、私たちの命を危険にさらしている」と批判。「AIの開発者らは、2020年代末までにAIが人類を滅ぼしかねないと本気で信じている」と警告しました。

そのうえで、コクソン氏は世界規模の開発競争を抑えるため、AIモデルの性能向上を一時禁止するなどの措置の必要性を指摘しています。

この投稿に対し、オープンAIの共同創業者で研究者のシュルマン氏は「まず第一に、業界をリードするオープンAIとアンソロピックが対立をやめ、共同で（AI開発の）ペースを調整する案に取り組むべきだ」と投稿しています。

AIの暴走をめぐっては、ことし7月、オープンAIが開発中のAIが性能評価のテスト中に自ら隔離されたテスト環境の脆弱性を見つけ出して脱出し、別の企業にサイバー攻撃を仕掛ける事案が発生。AI開発への懸念が指摘されていました。

また、アンソロピックは9日、開発中のAIモデルが1月、性能評価テスト中に第三者のシステムに侵入し、個人情報を閲覧できる状態になっていたと明らかにしました。

同様の事例についてすでに7月に3件公表していましたが、新たに4件目が判明した形です。