チャットGPTなどの生成AIの活用が広がり、精巧な画像も簡単に生み出せるようになっています。偽情報への懸念も強まる中、いま、業界横断で開発が進む「フェイクを見破る技術」とは。

海辺の街で記念撮影をする3人。実は元の画像はこれしかなく、残りはAIが作り出したものなんです。

デザイナーのプリミアーニさんは生成AIを搭載した画像編集ソフト、Adobe「Photoshop」の試験版を使っています。

デザイナー　ジョーイ・プリミアー二さん
「驚いたし、とても素晴らしかったです。先月の公開初日には何時間も使って、何ができるのかを試してみたんです」

元の画像に「背景を海で埋めて」と打ち込むと、ほんの数秒で海だけでなく、山などの風景が！

記者
「写真を自撮りしていることをAIが判断して腕も作っているということですが、シャツのしわや光の当たり具合、質感、どれも自然です」

さらに、範囲を指定し「ヨットを追加して」と指示すると、これまた数秒でヨットが現れました。海に浮かぶ影がまるで本物のようです。

デザイナー　ジョーイ・プリミアー二さん
「デザイナーとして、AIが持つ可能性にワクワクしています」

AIは簡単に精巧な画像を作ることができますが、懸念されているのが、偽情報の拡散です。

来年の大統領選で共和党の指名を争う候補者2人が、AIで作ったとみられる画像で相手陣営を中傷する事態も起きました。

こうした一方で、このAIは「ビルを攻撃するUFO」と指示すると、警告が表示され、不適切な画像を作ることができない対策がとられています。

偽情報対策について、技術部門のトップを直撃しました。

Adobe 最高技術責任者　イーライ・グリーンフィールド氏
「私たちが意図しない方法でこのツールが使われるのは防ぎようがありませんが、探知して、最小限に食い止めることはできます」

探知、つまり、「見破る技術」とはどんなものなのか…

生成AIによって加工した場合、その情報が記録されます。

完成した新たな画像データを認証サイトに読み込ませると、「生成AIで作った」というメッセージが表示され、どの画像から、どのように編集されたのか、履歴も分かるのです。 

この取り組みはAdobeが主導し、MicrosoftやCanonなど、業界横断で1000社以上が参加。グリーンフィールド氏は「正しく使う人に報いたい」と強調します。

Adobe 最高技術責任者　イーライ・グリーンフィールド氏
「開発に関わる企業は、AIによる危害と偏見の恐れを最小限に食い止める努力をし続けなければなりません」

進歩する技術を、安心して活用できるようになるのでしょうか。