AIで巧妙化 見抜けない偽投稿 トランプ政権で対策さらに後退

SNSの情報操作は世界中で見られる。

2010年、アメリカの中間選挙では、「ボット」と呼ばれる自動化されたプログラムが、ある候補者に好意的な投稿を1日何万回も拡散していたとされる。

これまでの「ボット」は、語りかけても対話が成立せず偽のアカウントだとすぐに見抜くことができた。

だが今は、AIによってリアルな対話が可能となり、「ボット」だと見抜くことが困難になっていると専門家は指摘する。

インディアナ大学ソーシャルメディア観測所　フィリッポ・メンツァー所長
「この技術により、偽の投稿やアカウントを大量に、極めて低いコストで作れるようになりました。しかも見破ることはほぼ不可能です。大接戦となった選挙では、ボットや組織的なキャンペーンを通じた世論操作が多数の有権者に影響を与え、投票行動を変えてしまう可能性があります。選挙結果に影響を及ぼすかもしれません」

「農場」で作り出される架空の世論。誰しも気づかずに影響を受けているかもしれないとメンツァー教授は警鐘を鳴らす。

インディアナ大学ソーシャルメディア観測所　フィリッポ・メンツァー所長
「こうしたアカウントは、別々の人間ではなく、一つの組織がコントロールしています。多数派の意見であるかのような状況を作り、同調圧力を生み出します。これが世論を操る方法です」

トランプ政権が対策を進めるどころか後退させていると懸念を示した。

インディアナ大学ソーシャルメディア観測所　フィリッポ・メンツァー所長
「残念ながら、アメリカを拠点とする大手プラットフォームは、ここ数年、ユーザーの信頼と安全からかけ離れた状態となっていて、政府の政策がそれを助長しています。例えば、選挙期間中の政治的なコンテンツについて、AIによって生成されたものだと明示することを（州によって）義務付ける規制もありますが、連邦政府がそれを撤廃させようとしています。大きな影響があるでしょう」