AIエージェント リスクは？

上村キャスター：
そして便利な一方で、リスクもあります。

AIエージェントは、多くのデータそして個人情報に触れる権利も与えられています。サイトなどに登録している自分のパスワードやメールアドレスなど、漏えいしてしまうリスクをどのように考えますか？

中川さん：
指示を出したAIエージェントが調べに行ったWebサイトなどに、悪意のある指示が仕込まれていることがあります。それを読み取ったAIエージェントが、誤った動きをして、個人情報が漏えいしてしまうというリスクも今指摘されています。

藤森キャスター：
軍事転用とか大丈夫なのかなと思ってしまいます。

TBSスペシャルコメンテーター 星浩さん：
安全保障の関係者に聞くと、例えばドローンは操縦していたものが今はAIで勝手に動いています。そこにAIエージェントが入ってくると、指示をせずとも自分で標的を探し出し、そこを攻撃することが十分可能になってきます。

ですから国連も、さすがにAIエージェントの軍事転用は規制した方がいい、という議論を今していますが、どうもイランへの攻撃の一部で使われているという話もあって、規制が全然追いついていません。相当慎重に議論していく必要が出てくると思います。

藤森キャスター：
人間の「何をやってもらうか」を考える力が大事になってくるということですね。

中川さん：
人間は、AIエージェントに「何をさせるか」「どうさせるか」を指示するマネージャーみたいにならなきゃいけないと思います。

＝＝＝＝＝＝＝＝
＜プロフィール＞

中川雅博さん
TBS CROSS DIG　企業・産業コンテンツ担当
これまでIT・テクノロジー業界を取材

星浩さん
TBSスペシャルコメンテーター
政治記者歴30年　福島県出身