来週、総選挙が実施される韓国。AI＝人工知能を使った「ディープフェイク」による偽映像が選挙に影響を与えないよう法律で禁止するなど、対策を進めています。

尹錫悦大統領の演説のように見えるこちらの映像。

尹大統領の偽映像
「わたし、尹錫悦の辞書に“政治報復”はあっても“国民生活”はありません」

韓国のSNSで去年12月から拡散したとされますが、本人が実際にこう話したことは一切なく、意図的に編集した偽物です。

こうした偽物の映像、特にAIによる「ディープフェイク」が今月行われる総選挙に影響を与えないよう、韓国ではいま、対策が進められています。

今年1月、改正公職選挙法が施行され、投開票日の90日前からは選挙運動を目的としたディープフェイクの制作などを禁止に。

さらに中央選挙管理委員会は、ディープフェイクによる映像などを確認する専門の担当者を70人配置し、違反すると判断したものについては、削除の要請や警察への告発といった対応をとっています。

中央選挙管理委員会 広報担当
「1日に200～300件ほどの掲示物を1人でモニタリングしています」

きのう時点で、すでに293件削除されるようにしたということですが、最近、頭を悩ませることがあると言います。

中央選挙管理委員会 広報担当
「技術が発達しているので、精巧な映像が出ることを懸念しています」

今、どれくらい精巧なディープフェイクの映像が作れるか、韓国の専門家の立ち会いのもと、アメリカのサイトを使って確かめてみました。

記者が2分ほど日本語で自己紹介したうえで、短い英語の例文を読むのを録画し、データをアップロードすると。

ディープフェイク映像
「実際に私が話していると思いますか？これは人工知能です。私ではありません。皆さん、分かりますか？」

録画の時にはまったく話していなかった韓国語を流暢に話す映像が数分で完成しました。

手軽に映像制作ができることについて、専門家は懸念を示します。

ITコミュニケーション研究所　キム・ドクジン所長
「AIがその気になれば、誰でも10分以内にこのような映像を作ることができるので、ネットに出てくる映像を一度は無条件で疑ってみなければならないという考えを皆が根底に持つことが、最も重要だと思います」

一方、韓国の警察は先月、520万点の人物データをもとに、ディープフェイクを使ったものなのか見分けるソフトウェアを開発し、選挙違反などの捜査に投入すると発表。

急激なスピードで進歩していくAI技術に対し、模索が続いています。