「フェイクっていうのはものすごい攻撃ツール、武器…」

手塚治虫作品レベルではAIは人間には叶わないのかもしれない。しかし日進月歩で不可能を可能にするAI。悪用にも対処が必要だ。AI技術の悪用例としてフェイクニュースがある。

特に戦争においては敵を騙すことは基本的作戦の一つだと元自衛官の佐藤正久議員は言う。

佐藤正久参議院議員
「欺騙（ぎへん）といっていかに相手を騙すかは戦いの鉄則。我々演習でトイレにわざと作戦計画書を落としたり…。騙せばいいんですから。それがSNSになった今拡散力が全然違う…。選挙戦でも悪い嘘流されるとあっという間に広まる。拡散してしまうと元に戻すのは大変。しかし今は拡散するほどお金をもらえるっていうシステムもありますから…。刺激的なものほどお金になる。だからフェイクっていうのはものすごい攻撃ツール、武器なんです…」

ウクライナ戦争でも使われた、プーチン大統領が和平合意を語る偽演説や、ウクライナ兵に先頭をやめるよう促すゼレンスキー大統領の偽演説。いずれもフェイク動画だった。フェイクニュースは拡散も早い。世の中に一端出回ったフェイクニュースや映像は衝撃的であるほど人の頭に残る。それを後で打ち消しても感情までは打ち消せないという。ウクライナはこのようなものとも戦っている。私たちはウクライナ政府の戦略コミュニケーションセンターの幹部に接触、彼らが実際に行たある作戦を聞いた。

詳しい方法は教えてくれないがロシアの“次の仕掛け”の情報を掴み、出されそうなフェイクニュースへの警告を事前に出すことで国民への影響を少なくしようとしたという。

ウクライナ政府戦略コミュニケーションセンター　ミコラ・バラバン副所長
「去年3月2日に、私たちは“プレバンキング”を行いました。“ウクライナは降伏する”と宣言するゼレンスキー大統領のディープフェイクが公開されることについて、事前に国民に対して警告を出したのです」

プレバンキングとは偽の情報が拡散可能性があることを事前に国民に知らせることで混乱を防ぎ、心理的なダメージを緩和する手法。実際、この警告の二週間後にゼレンスキー大統領が降伏を表明するディープフェイク映像が拡散されたといいます。

ウクライナ政府戦略コミュニケーションセンター　バラバン副所長
「プレバンキングすることでウクライナ市民はその偽動画に対して準備ができていました。その結果、このディープフェイクはウクライナ国内ではあまり注目されなかったのです」

しかし事前に抑えられるものばかりでないのも事実。スペインのサッカーチームのファンがパレスチナを応援しているフェイク画像は390万回以上閲覧され、パレスチナ系米女優がイスラエル支持を表明したフェイク動画は3000万回以上閲覧された。
私たちもすべてを鵜吞みにしているわけではないと思うかもしれないがここに一つの調査がある。私たちは真偽のわからない刺激的な情報に接した時、どう対処したかを年代別に集計したものだ。

“情報”は「コロナはただの風邪だ」「コロナワクチンは不妊の可能性がある」「ウクライナ人は親ナチスだ」「気候変動は嘘だ」などSNS上に出回った偽情報の数々だ。これに対し…

10代…情報を信じた25％　信じて拡散した21.4％
20代…情報を信じた26.7％　信じて拡散した33.3％
30代…情報を信じた31.8％　信じて拡散した22.7％
60代…情報を信じた37％　信じて拡散した3.7％

60代は拡散はしないが信じやすい。若い世代は信じた情報は拡散したがる。特に20代は信じた人と拡散した人合わせると6割が偽情報を信じていたという結果だ。

問題はネット上に流れる大量の画像、映像の中でどれがフェイクなのか一般人には見分けがつかないことだ。AIが生成した画像や映像を解析するソフトを開発する会社に聞いた。

『NABLAS』鈴木都生氏
「フェイク動画はかなりクオリティが高まっていて一般の方が見分けるのは難しい。生成方法もバージョンアップされていて追いかける必要がある」

作る側は簡単に作れて、見分ける技術はまだ普及しないとなると手の打ちようはないのだろうか…。今回の『ブラック・ジャック』のプロジェクトでも中心的存在だった日本におけるAIの第一人者、栗原教授は言う。

慶應義塾大学　栗原聡　教授
「もう僕らだけでは見分けはつかないと思うんです…（中略）できることとしては…、すぐ反応しない。まず呼吸置いて見る。それで周りの人に聞いてみるとか…。それだけでももしかするとかなりのことが防げると思います」

国際情報誌『フォーサイト』元編集長　堤信輔氏
「うかつに拡散すると多くの人に勘違い、被害を与える。被害を与えれば自分に返ってくる。そうならないためにも拡散しない。リツイートしない。一晩置けば人間の考え方は全然変わる…。（中略）ディープフェイクを見破るためにはデジタル上の鑑識作業が必要で、その技術を世界で一番高いレベルで持っているのはCIA。でもCIAは技術を絶対公開しない…」

フェイクニュースもディープフェイクもAIを活用してはいるが、結局は人間の仕業だ。
だが、本当の脅威はAIが自分の意志で勝手なことを始めることだ。