生成AI由来のフェイクが拡散中

画像では黒人女性と肩を組み、にこやかな表情のトランプ前大統領。女性たちがトランプ氏を支持するように取り囲んでいます。

しかし、これは実際には存在しない場面。一部のトランプ支持者が、支持拡大を狙って、生成AIで作成した「フェイク画像」だといいます。

アメリカ大統領選を巡っては、生成AIを使った画像や動画がすでに拡散。また、こうした「情報汚染」はアメリカだけではありません…

中国の習近平主席が台湾総統選挙に言及したとされる動画…

習主席フェイク動画
「台湾の人民よ。良い投票をすれば､一緒に肉まんと玉子チャーハンを食べましょう－」

これも生成AIが作ったもので、1月の総統選前に拡散されました。

生成AIの進化とどう向き合う？

こうしたフェイクの真偽を見破る手立てはあるのでしょうか。AI技術の研究を行う会社で、問題の画像を解析してみると…

NABLAS 鈴木都生 取締役
「フェイクという形で出ている。（フェイクも）どんどん新しいものが出てきたり進化していく。技術的には難しいところがある」

すでにヨーロッパでは、AIの脅威に備える動きが始まっています。

ベニフェイ EU議会議員
「この法律はAIの安全で、人間中心の発展に向けた明確な道筋を示す、世界初の規制となる」

今年3月、EU議会は世界初となる「AI規制法案」を可決。生成AIが作った画像や文章などについては、その明記が義務付けられ、違反した場合、約56億円の制裁金を課すとしました。

こうした中､専門家はAIが広く社会全体に及ぼす危険性を指摘します。

東京工業大学 笹原和俊 准教授（計算社会科学）
「これからインターネットで目にする情報は、かなりの部分がAI由来のもの。そうなった時“本当のような嘘”が出回ることによって何も信じられなくなる。民主主義というのは信頼の上で成り立っている。そういう意味では民主主義がうまく機能していく上での一番土台の部分、それが毀損されているんじゃないかなと」

生成AIがもたらすリスクに、今後、私達はどう対応していけばいいのでしょうか…。

（「サンデーモーニング」2024年4月21日放送より）