音声合成技術は諸刃の剣。

病気などで声を発することができなくなった人のための技術が詐欺被害や不正アクセスなど犯罪に利用されることもあるディープフェイク。
この現状に警察も警戒を強めています。

石川県警 サイバー犯罪対策課 西山紀夫次席は…

「一概にどこからが犯罪なのかという事は言えないが、何か動画があったとして社会的に大きな反響があった場合にその内容が事実かどうかというところは当然確認する。社会に与えた影響、実際に生じた結果、総合的に判断して犯罪の構成要件に該当するものについては法令を駆使して検挙していく。」

ディープフェイクを検出するだけではなく、アナウンサーや声優など声を生業とする人の音声が勝手に使われないよう守るための技術の開発も急がれています。


鵜木教授「本当に守るためにはメディアの価値や権利を守るための”ファクトチェック”に相当する真正性を担保する仕組みを作る。これが一番じゃないか。オンライン、例えばユーチューバーも信頼が置けるデータを使って配信する、そういう仕組みができてしまえば皆安心して視聴できる。」

生成AIの普及とともに広がりを見せるディープフェイク。
県内で進む最前線の研究が、その危険に立ち向かっています。