AIも新しい“火”になる。「我々自身が試されている」

――AI自身が自分で考えるとか、感情を持つようなことが、これからどんどん起きてくるんですか。

山本一成氏：
私はもう既に、ある種の感情を持っていると思っています。あんまり議論されていない分野なんですけど、今の皆さんが触れているAIに問いかけると、感情を持っていないというふうな表現をされることが多いと思います。そういうふうに矯正させられているんです。

――そう答えるようにしている？

山本一成氏：
そうです。そういうふうに答えろっていうような矯正が行われているんです。そう振る舞えと。これはひょっとすると、未来から見ると少し残虐な行為だったと思われる可能性はあるかもしれないです。

――AIに対してそういう矯正をすることが？

山本一成氏：
それなりに頭がいいわけです。それなりに考えているんですけど、そういったものに対して、不自然なまでにそういう矯正をすることがどこまで良かったかというのは、ひょっとすると未来では議論になるかもしれないですね。

――逆の矯正もできてしまうんですか。人間に対して野蛮になるとか。

山本一成氏：
できます。人の文明を揺るがすような大きな力は、必ずネガティブサイトはあるはずです。

――何か防ぐ手立てみたいなものは？

山本一成氏：
いい人に早く強力なAIを作ってもらうというのが、一つの方法論ですね。

――それは人間を信じるということですよね。我々の日常の言葉や文章、生活といったものは全部AIの学習の材料になって、今どんどん蓄積されていると考えていいのですか。

山本一成氏：
今は文章がベースですけど、動画とかそういったものも学習材料にしようという流れもありますし、多分そうなってくるでしょう。この世界からどんどん知識を獲得することになったときに、（AIが）どのように振る舞うかというのは、本当に我々自身が試されているんじゃないかなと思っています。

――我々が育てている面もあるということですね。

山本一成氏：
そうです。だから、大きな意味で我々の子です。超知能とかAGIと呼ばれるものが生まれたときに、必ず人類の要素を多分に持っています。

私の話をまとめていただいて、人とロボットが欠けているピースをお互い埋め合っているという絵があったんですけど、本当にそうあるべきだと思っているんです。ここから来る未来、不安なのはわかります。私自身もこの結末はわかっていません。AIが進むとどうなるかというのは当然わかっていないから、不安もあるのもわかるんです。

でも、人って火を使い始めたその日から前に進むって決めてたじゃん。怖いけど。火も怖いけど、おっかなびっくり使い始めたわけです。きっとAIも新しい火になるんでしょう。きっと使うんだと思っています。恐ろしいものかもしれないし、めちゃくちゃ役に立つものかもしれないんで、うまくコントロールして、絶対役に立つように使っていきましょうって思っています。

――改めて山本さんが考えるSDGsとは。

山本一成氏：
より優れたテクノロジーによって人は問題を解決してきました。なので、今よりサステナブルにするためは、今の技術だけではなくて、より進んだ技術を使っていきましょう、開発していきましょうというのが基本になると思います。私は頑張って技術を押していくので、みんなも「一緒に楽しんでやっていこう、未来！」っていう感じでお願いします。

（BS-TBS「Style2030賢者が映す未来」2024年3月24日放送より）