（ブルームバーグ）：資産家イーロン・マスク氏が手掛ける人工知能（AI）チャットボット「Grok（グロック）」は、同氏のソーシャルメディア「X」を同意なき性的画像加工のトップサイトにした。サードパーティーの分析によれば、1月5日から6日にかけての24時間において、Xでは1時間あたり6700件の性的に加工されたAI生成画像が投稿された。他の主要な5サイトでの平均79件に比べ、桁外れの大量生成ペースだ。

ソーシャルメディアとディープフェイクを研究するジャヌビエーブ・オー氏によれば、Grokを使用した画像生成の85%が性的なものだった。

オンライン性犯罪を専門とする弁護士のキャリー・ゴールドバーグ氏はXのディープフェイクが「前例のない規模」に広がっていると話す。無料で提供され、配信システムに組み込まれているGrokについて「これほど簡単に新しい画像を作れる技術は前例がない」と述べた。

非営利団体アメリカンズ・フォー・レスポンシブル・イノベーションのシニアディレクター、ブランディー・ノネック氏はアンソロピックやOpenAI、グーグルなど他の生成AI技術プラットフォームと異なり、xAIはユーザーを「ほぼ野放し」にし、承諾なしに性的画像を投稿してもブロックしないと指摘する。

マスク氏にコメントを求めたが、現時点で返答は得られていない。同氏は過去に「Grokで違法コンテンツを作る者は、違法コンテンツを投稿した者と同じ責任を負う」とXに投稿したが、そもそもの性的画像生成を防止することには消極的だ。

被害者に残された選択肢は少ない。医学部への進学を目指している23歳の学生マディーさんは、Grokによってみだらな姿に変えられた自撮りの写真を見て凍り付いた。

「心が突き落とされた」とマディーさんは語る。将来の就職に影響しないかを心配するマディーさんは「絶望と無力感で吐き気がした」と振り返った。Xに通報しても返答はなく、画像は公開されたままだった。別のユーザーによる投稿をXに報告した際は「規約違反はない」との回答があった。

Grokは画像の削除を求めるユーザーに対し謝罪はするが、実際には画像が残り続けるケースは多い。被害者の声をよそに、新たな画像生成は続けられている。

性的コンテンツはチャットボットのセールスポイントとなった。OpenAIは今年1－3月に「ChatGPT（チャットGPT）」に「アダルトモード」を導入する計画だ。ただOpenAIでは「本人のリアルな画像や声を同意なしに真偽の混乱を招く方法で使用することを防ぐ」と利用規約に定めているほか、18歳未満の性的描写について明確な方針を設けている。

Grokに対しては欧州連合（EU）のほかに英国、マレーシア、フランス、インドの当局から非難が相次いでいる。欧州委員会のレニエ報道官は5日の記者会見で、XおよびGrokの「スパイシーモード」について「児童を想定した性的画像」が生成されているとし、「スパイシーどころか、違法だ」と糾弾した。

2025年に成立した米国の「テイク・イット・ダウン法」は、こうしたコンテンツの生成と配信においてプラットフォームの責任を明確にしていると、ノネック氏は指摘する。この法律ではプラットフォームに対し2026年5月までの削除プロセス導入を義務付けている。

原題：Musk’s Grok AI Generated Thousands of Undressed Images Per Hour（抜粋）

もっと読むにはこちら bloomberg.com/jp

©2026 Bloomberg L.P.