SNSの「X」に導入された生成AI「Grok」を悪用し、無断で写真が性的に加工される事例が相次いでいる問題で、イギリス政府は「X」への調査を開始し、こうした画像生成を違法とする法律が今週施行されると明らかにしました。

「Grok」はアメリカの実業家イーロン・マスク氏が率いるAI開発企業「xAI」が開発した生成AIで、「X」にも画像を加工できる機能として搭載されています。

この「Grok」を悪用し、子どもなどの写真が無断で性的な画像に加工されている問題について、イギリスの放送・通信規制当局は12日、「X」の調査を開始すると発表しました。また、ケンドール科学・革新・技術相は、同意のない性的画像の生成を違法とする法律が今週施行されると明らかにしました。

ケンドール科学・革新・技術相
「いかなる女性や子どもも、自らの画像がテクノロジーによって性的に悪用される恐怖の中で生きるべきではない」

「Grok」を提供する「xAI」は9日、画像の編集機能の利用を「X」の有料会員に限定する措置を取りましたが、ケンドール氏は「金さえ払えばサービスを利用できるというのは、被害者への侮辱であり、虐待を金儲けの手段にしている」と非難しました。

また、「X」が法令に従わなければ、イギリスでのサービス利用が禁止される可能性があると指摘しました。

「Grok」を使った性的な画像の生成については世界各国から批判が上がっていて、イギリスBBCによりますと、インドネシアとマレーシア政府は12日までに「Grok」へのアクセスを一時的に遮断したと発表しています。