カリフォルニア州知事、AIの「キルスイッチ」導入巡り行政命令

（ブルームバーグ）：AIブームの中心地、カリフォルニア州のニューサム知事は18日、AIへの安全対策導入を推進する行政命令を出した。

知事室の発表によると、ニューサム氏は作業部会に対し、カリフォルニア州のAI安全・セキュリティー関連法を強化する措置を盛り込んだ指針を2カ月以内に示すよう指示した。作業部会は、企業に最先端AIモデルの「キルスイッチ（緊急停止装置）」を開発させることや、独立した第三者に最先端AI企業の安全計画を策定させることなどを検討する。

ニューサム氏は「われわれは行動を待つつもりはない。手遅れになる前に、実効性があり責任あるAI監督に向けた取り組みを加速する。慎重に進める一方で、緊急性を持って迅速に取り組む。事態はあまりに重大で、行動を待ったり遅らせたりする余裕はない」と述べた。

知事室は、作業部会のメンバーについての問い合わせに今のところ応じていない。

AIの安全性を巡る懸念が、ここ数週間で高まっている。著名な従業員が安全性への懸念を理由に相次いで退職し、OpenAIのサム・アルトマン最高経営責任者（CEO）やアンソロピックのダリオ・アモデイCEOは監督の強化を求めている。

アンソロピックとOpenAIは、どちらもカリフォルニア州に本拠を置いている。ニューサム氏は過去数年間、州経済を押し上げてきたAIブームを後押ししてきた。今年も、州政府機関でのアンソロピックのAIモデル「Claude（クロード）」の利用拡大を目指し、カリフォルニア州政府とアンソロピックの提携を成果として強調していた。

原題：Newsom Issues Executive Order on Creation of AI ‘Kill Switch’（抜粋）

もっと読むにはこちら bloomberg.com/jp