ディープフェイクと米国大統領選挙

今回の米国大統領選挙でも、明らかに政治的意図を持って発信された偽動画や偽画像が少なくない数拡散していた。例えば、ある候補が過去にひき逃げをしており、その被害者が話すインタビュー動画などだ。偽動画の中には大量のフォロワーを持つインフルエンサーが拡散し、1億回以上閲覧されるようなものも存在した。

しかしながら、ディープフェイクは、フェイク情報全体に占める割合で言うと、当初懸念されていたほどではなかったとも指摘されている。

その理由は明白である。悪意を持って偽情報を流す人からすると、とにかく自分の目的を達成できればよい。現在の技術では、人々が見分けることができず、信じやすく、かつ拡散したくなるようなコンテンツを生成するには、生成AIサービスに入力する言葉・指示に工夫が必要で手間がかかる。むしろ、過去の映像や画像を活用したり、テキストに偽情報を作成したりする方が目的を達成するにあたってはるかにコストが低いのである。

つまり、AI技術が進化し、より簡単に人々が信じやすく拡散したくなるような偽画像や偽動画を作れるようになり、そのコスト（時間的コスト）が他の手段よりも低くなって閾値を超えた時、生成AI技術は一気に偽情報生成に使われるようになるだろう。

Withフェイク2.0時代の脆弱な民主主義

残念ながら、民主主義という制度はフェイク情報に脆い。これは、人口のたった5から10%の人々の意見が変わるだけで、選挙結果や政治の状況が大きく変わるためだ。情報の正確さに疑問符がつく状況が続く中、フェイク情報によって影響を受けたわずかな有権者層が結果を決定づけるリスクがある。

米国大統領選挙のように2大政党制で力が拮抗している場合、より深刻な状況になる。これにより、民主主義の健全性が損なわれるだけでなく、社会の分断が進んで国の統治や政策の不安定さにも繋がりかねない。今回の米国大統領選挙は、Ｗithフェイク2.0時代の民主主義の脆弱性と潜在的リスクを浮き彫りにしたともいえる。

日本も民主主義国家であるため、選挙におけるフェイク情報問題への対策は必須だ。私も委員を務める総務省の検討会（デジタル空間における情報流通の諸課題への対処に関する検討会）では、フェイク情報に関する総合的な対策についての議論を行っている。

表現の自由を担保した上で、フェイク情報問題から民主主義を守るためにも、プラットフォーム事業者、業界団体、メディア、ファクトチェック組織、政府、アカデミアなどが連携し、有効な対策を早急に検討、具体化、実装していくことが何よりも求められる。

＜執筆者略歴＞
山口 真一（やまぐち・しんいち）
国際大学グローバル・コミュニケーション・センター准教授。博士（経済学・慶應義塾大学）。1986年生まれ。2020年より現職。
専門は計量経済学。研究分野は、ネットメディア論、情報経済論、情報社会のビジネス等。KDDI Foundation Award貢献賞など様々な賞を受賞。また、内閣府「AI戦略会議」を始めとし、複数の省庁の有識者会議委員を務める。
主な著作に「ソーシャルメディア解体全書」（勁草書房）、「正義を振りかざす『極端な人』の正体」（光文社）、「なぜ、それは儲かるのか」（草思社）、「炎上とクチコミの経済学」（朝日新聞出版）、「ネット炎上の研究」（勁草書房）などがある。
他に、シエンプレ株式会社顧問、日本リスクコミュニケーション協会理事、早稲田大学ビジネススクール兼任講師などを務める。

【調査情報デジタル】
1958年創刊のTBSの情報誌「調査情報」を引き継いだデジタル版（TBSメディア総研が発行）で、テレビ、メディア等に関する多彩な論考と情報を掲載。2024年6月、原則土曜日公開・配信のウィークリーマガジンにリニューアル。