「ドローンで撮影された静岡県の水害。マジで悲惨すぎる」という投稿…実はAIで作ったニセ画像でした。

2022年、静岡県を襲った台風15号。
多くの家屋が水に浸かり甚大な被害が出る中、SNSで拡散されたのが…

SNSの投稿者
「ドローンで撮影された静岡県の水害。マジで悲惨すぎる」

投稿した人物に直接、話を聞いてみると…

SNSの投稿者
「偽の画像です。AIで作りました」

なんと、これらはすべて生成AIが生み出した架空の被害写真だったのです。

使われたのは、パソコンやスマホで誰でも利用できるサービス。

単語を入力するだけで本物そっくりの“写真”からマンガのようなイラストまであっという間に作ることができます。

提供する会社に、災害でフェイクの拡散に使われたことについて聞くと…

Stability AI Japan 齋藤稔さん
「残念ですし、我々メーカーとして、そういったことを意図して作っているわけでない」

本来の目的は、AIによる画像生成などを介して人間の仕事を楽にしたりさらに向上させたりすること。

Stability AI Japan 齋藤稔さん
「クリエイティブで、例えばキャンペーン用のポスターを作りましょうとか、インテリアコーディネートでデザイナーがひらめきを得るために使っていただく」

一方、フェイクを見破ることで、災害時の混乱を防ごうとする技術の開発も進んでいます。

NABLAS 冨山吉孝さん
「当社の方で今、開発中のフェイクを見破るAIのUI画面」

実際に、静岡の水害で拡散されたフェイク画像をAIに入れてみると。

NABLAS 冨山吉孝さん
「これは100%の確信度でフェイクだと判定をしてくれています」

AIが注目した「山の形」や「街中の木々」が判定材料となっています。

一方、今月の台風7号の様子では「本物」だと判定されました。

NABLAS 鈴木都生取締役
「（AIを）悪用しようとした時のハードルもすごく下がっていると思う。嘘の情報が拡散されたり、それをベースに行動をしてすると困るようなメディアに、それ（フェイク）を検出できるような仕組みとして提供できるように準備を進めています」

さらに、この生成AIを防災に役立てようとする動きも。

Solafune 上地練 代表取締役CEO
「災害が起こった時に、その被害状況を正確に把握したり、人工衛星が取得してくる地球の観測データを解析する技術の開発・提供を行っております」

この会社が開発を進めているのは、人工衛星のデータを解析して地盤の動きなどを分析するAI。

災害が起きやすい状況を事前に把握することや、土砂崩れなどの被害状況をリアルタイムに把握することなどを目指しています。

Solafune 上地練 代表取締役CEO
「災害や気候変動のような、地球上で起こるあらゆる事象を解析していくような技術を作りたい」

悪用による混乱を防ぎ、社会に役立つ技術の発展が期待されています。