自動運転EVスタートアップ「Turing」CEOの山本一成氏は、AIによる完全自動運転の車の開発に取り組んでいる。常識にとらわれない自由な発想で、次世代の車の開発を進める山本氏にSDGs達成期限の2030年に向けた新たな視点、生き方のヒントを聞く。
【前編・後編の後編】

「人間の能力を過信しない」。AIに救われる人の方を向く

――続いてお話していただくテーマですが、山本さん何番でしょうか？

山本一成氏：
はい、9番「産業と技術革新の基盤をつくろう」です。

――この実現に向けた提言をお願いします。

山本一成氏：
「人間の能力を過信しない」っていうのを提言にさせてください。

――我々がとても大事にしている人間性とか人間らしさと、AIの能力をどう考えたらいいのでしょうか。

山本一成氏：
人間の皆さんはやっぱり人間のことが好きなんです。だから、人間の能力も信じているし、人間が行うことについても信じているんですよね。私はそれはすごく素敵なことだと思うんですけど、一方で、過信しているなって思うんです。運転も客観的に考えれば、すごく危ない行為なんですけど、人が運転するからいいよねみたいな話になっています。AIがミスをすることを心配するのは普通なんですけど、一方で人が今行っているミスについてはあまりにも評価が低いかなと。私は結構アンフェアだと思っていることが多いですね。

――仕事で失敗しても、たまにはそういうことあるよ、人間だからねって。一方で、AIがミスすると、ほらやっぱり信用できないという感じになってしまうかもしれません。

山本一成氏：
将棋のときもAIのミスが結構過大に評価されて。人がしないようなミスがあったんです。人間もミスするじゃんって思っていたんですよね。だから、提言というか共有したい話は、これから来る技術は必ず100%、特にAI技術は基本的にミスをゼロにするという性質のものではないんです。機械も曖昧な判断に踏み込んでいくので、そうすると人より上手い部分もあるんですけど、必ずしも人よりも絶対うまいとも言い切れないし、絶対ミスしないと言い切れるものじゃない。

実際に完全自動運転ができたとしても、AIシステムが絶対に事故をゼロにすることは不可能です。人が飛び込んでくるかもしれないし、とんでもないことが起きるかもしれないし。AIがミスをしない社会、リスクゼロを求められると、非常に苦しいなって思っていますし、一方で今の人のミスはいいんだっていうのは、ちょっと…。

――“AIの母”のようなお話をされていますね。

山本一成氏：
AIが例えば人を絶滅させるかもしれないという話って普通にされているんです。フェアな話として、それがゼロじゃないというのは私もわかります。強力なAIが出てきて、それが人よりもはるかに頭が良くて、それがどのような行動をするのかというのを完全に予見することは不可能です。そういうものを今、我々は作ろうとしていますし、世界中のAIの研究者たちが人を超えるような知能を作ろうとするとき、それがどのように振る舞うかというのを完全に予見することができるというのは傲慢です。一方で、人は人を絶滅させないんですか。どう思います？

――絶滅させるような兵器は作っています。使っていないけど使うかもという不安はいつもみんな持っています。

山本一成氏：
それ以外にも例えばCO2排出削減は、多くの人の協力が必要なんですけど、そんなにうまく協力できていない状況ですよね。もう何十年も前からCO2による地球温暖化と言われてきたのに、結局、去年めちゃくちゃ暑かったですよね。そういった意味で、人が人の運命をコントロールするのが本当に上手にできるかというのは、私はみんなよりはあんまり評価してないかも。というか、みんな全幅の信頼を置いているのは、ちょっと危ないんじゃないかと思っています。

――山本さんも含めてAIを開発している人たちは、我々に大丈夫だよということをもっと教えてほしいのですが。

山本一成氏：
自動運転が来たときに、それでも人の手の方が安全だっていうのはおかしいよねっていうふうにはなってほしいなと思ったし、完全自動運転ができたときに救われる人の方を向いてほしいなっていう気持ちはあるんです。困っていない人って、基本的に今元気なんですよ。今この社会に適応できている人なんです。技術が助けたいのはそうじゃない人も含まれますよね。その辺の評価を、いつもバランスよく持ってほしいなっていう気持ちはあります。