“偽物”が簡単に作られる時代 「新しい情報を積極的に取り込んで」

岸田総理の偽動画は生成AIが使われていましたが、作成したのはAIの専門家ではありませんでした。
ただ1時間足らずで作成し、SNSに投稿していました。
小山さんは、AIの専門家ではなくても簡単に動画やイラストが作成でき、見た人には本物か偽物か判断が難しくなることが今後想定されると指摘します。

「フィッシングメールにも悪用されているのではないかと言われています。従来からの攻撃の手口がAIによって、より内容が巧妙になってパターンも増えて、件数が増えているのではないかと予想されています」

AIは人々の活動を劇的に変化させる技術として期待も大きい一方で、詐欺への悪用だけではなく、プライバシー保護、透明性、公平性、そして安全性といった様々な観点からの議論が日本だけでなく世界中で行われています。

日本ではことし2月にAIを安全に利用し、利便性を享受できるようにAIの安全性に関する評価手法や基準の検討などを行う「AIセーフティ・インスティテュート（AISI）」が設立されました。

また4月には、総務省と経済産業省が「AI事業者ガイドライン」を取りまとめ、公開しています。

小山さんは、現時点でAIのセキュリティが特別に必要なのではなく、これまで必要とされてきたセキュリティの対策を、継続していくことが重要だと指摘します。

「AIを悪用した攻撃もありますが、OSやソフトウェアの最新化、ウイルス対策ソフトの導入、パスワードの強化、共有設定の見直しとこのような基本的な行動、これを継続することが必要です」

そして、脅威や攻撃の手口、対策の情報に耳を傾けてくださいと呼びかけています。

「AIについてはまだまだ議論がされていて世界中で研究、あるいはガイドラインや法律の整備などが続いている状態です。新しい情報を積極的に取り込んで、自分にとってのリスクが大きくなっていないかということを確認していただきたいと思います」

ことし7月に発刊された「情報セキュリティ白書2024」では注目のトピックとして「虚偽情報とAIのセキュリティ」を取り上げています。
情報処理推進機構のWEBサイトから無料でダウンロードすることができます。

「知るテック」、次回は「虚偽を含む情報拡散の脅威と対策」について深掘りします。

取材協力：情報処理推進機構（IPA）セキュリティセンター　企画部　調査グループ　　グループリーダー　小山明美（こやま・あけみ）
（TBS NEWSDIG オリジナル配信番組：知るテック　より）