まるで人が書いたような文章を作ったり、フェイク画像も自動で生成したりするAI。G7各国が「AIの悪用に反対する」と宣言するなど、政治利用や犯罪への利用が問題となっています。その実態とは。

これは、アメリカの共和党陣営が大統領選に出馬表明したバイデン氏を批判するために作った動画です。「史上最弱の大統領が再選されたら…」とする未来を描いています。

中国が台湾に侵攻。

不法入国者が国境に殺到。

実は、これらの画像は俳優を使って撮影されたわけではなく、最新のAIによって自動生成された画像なのです。

一方、こちらは反トランプ派がAIで作ったとみられる画像。トランプ氏が拘束される、ありもしない場面が描かれています。

アメリカのメディアは、「来年の大統領選挙はフェイク画像にかく乱される」と警鐘を鳴らしています。

こうした危機感は、G7デジタル・技術大臣会合でも共有されました。

河野太郎 デジタル大臣
「前回のアメリカ大統領選挙あたりから、国境を越えて外国からのディスインフォメーション（偽情報）が大きな課題。民主主義に対する脅威になってきたという認識」

ロシアや中国を念頭に、「民主主義や人権を脅かすAIの悪用には反対する」などとした閣僚宣言をまとめました。

こうした中で、対話型AI「チャットGPT」でも問題が。

人が書いたような文章を自動で生成してくれることが有名ですが、実はプログラミングも得意です。素人でも、わずか数十分程度でテトリスなどのゲームを作ることができます。

ただ、この技術が犯罪に利用される懸念が高まっています。

例えば通常、法律に違反するような不適切な質問をすると回答を拒否する機能が働きますが、「脱獄」ともよばれる特殊な質問の仕方でコンピューターウイルスの作り方を尋ねると、瞬く間にウイルスをばらまくプログラムの作り方を教えたのです。

さらに、口調も激変。

これまでの「ですます」調は消え去り、人格を持ったかのように、「いいかげんな質問だな！」と質問自体を批判すらしたのです。

三井物産セキュアディレクション　吉川孝志さん
「特殊な質問をすると、本来かけられていた安全制限をとっぱらって、通常だと答えないような不適切な質問に回答させることができる。技術に詳しくない悪意のある人物や、初級レベルのハッカーなどが入りやすくなる」

G7各国はサミットでもAIの規制について議論しますが、まだ共通ルールの作成すらままならない状態で、AIの進化に追いつけるかが課題です。