対話型AI「チャットGPT」（ChatGPT）の話題が巷を席巻している。何ができて、何ができないのか…。
突如来日した「チャットGPT」の生みの親、オープンAI社CEOアルトマン氏は「AIが人類を滅亡させる可能性は否定できない」と語った。
果たして私たちは人工知能と上手に付き合って行けるのか？今回は“チャットGPTの光と影”について議論した。

「チャットGPTは呼吸するように嘘をつく」

農水省はチャットGPTを業務に使うことを決めた。発表された文書をわかりやすくまとめるなどの作業に利用するという。経産相も公務員の負担軽減に活用の可能性を探るといい、経団連会長も「使わずに規制するなど、人類の進歩の歴史から見て無理」と語った。
どうやらとても便利で、可能性は無限大といった感じだ。
そのCEOが訪問する最初の国に日本を選んだ。一体なぜ日本だったのか…

慶応義塾大学　栗原聡教授
「EUは個人情報に大変うるさい。アメリカはGAFAでしのぎを削っている。しかしオープンAI社としてはあらたな市場を開拓したい。そこで日本を見てみると個人情報は気にはするんですが、いい意味に鈍感だったりする。個人情報も集めやすいし、自分で個人情報を書き込んじゃうかもしれない。その一方で日本は人工知能の研究が遅れているんです。もしオープンAI社が来てくれて本当に研究できるなら…という政府とAI社の思惑が一致したのでは」

では対話型AI「チャットGPT」の性能はどれほどなのか。“岸田総理について教えて”と尋ねてみた。すると・・・。

“自民党の政治家で2021年に内閣総理大臣に就任しました”と話し言葉で即答した。が、続いて経歴が紹介されると…。“1954年7月18日に兵庫県赤穂市に生まれる”と表示された。だが岸田総理は1957年7月29日、東京都渋谷区で生まれている。続いて“77年に東大法学部を卒業後、住友商事に入社”と紹介されたが、実際は東大に2度落ち早稲田に入学。卒業後は日本長期信用銀行に入っている。他にも入閣歴、大臣経験などほぼでたらめな経歴が整然と表示された。このポンコツAIのどこが優れているのだろうか？

人工知能額学会副会長でもある栗原聡教授によれば、チャットGPTは検索や知識の便利ツールとして作られたものではないという。

慶応義塾大学　栗原聡教授
「チャットGPTが得意なところといえば、農水省が利用を決めたように、元の文書からキーワード持ってきてもっともらしい文書を作るとか、新郎新婦の名前入れてもっともらしい祝辞を作るとか、そういうのは得意なんです。検索とか、知らないこと聞いて教えてもらうとか、そういう用途のものじゃないんです。やりたかったことは、僕らと言葉を使ってやり取りをすることなんです。」

つまり、チャットGPTは文法や話し方を学習するので知識はこれから身についていく。そもそも知識の正確性を求めてはいけないという。とはいえ岸田総理のプロフィールについても最新バージョンでは正しく答えるらしい。調べものならウィキペディアの方がよっぽど便利で正確だろう。

人工知能プロジェクト「ロボットは東大に入れるか」のプロジェクトディレクターも務める新井紀子氏は、AIに知識を詰め込んで、知ってることを頑張って答えるというロボットはできたが、言葉の流れのスムーズさは獲得できなかったという。チャットGPTはそこを実現した。

国立情報研究所　新井紀子教授
「チャットGPTのバージョン3，4を見ていると、（言葉のスムーズさが）あまりに人間っぽい。
言葉の天気予報をやってるだけ。こう来たら次はこう行くだろうって…。まぁ天気は物理現象だから事実に近くなるんですけど、言葉っていうのはその時その時でいろんなこと言うし本当のことばかりじゃない。でも人間っぽい話し方をすると、ほんの少しでも正しいことが入っていると、人間は全部正しいと思ってしまう。それがこれの大きな落とし穴だと思う。人間は知ってることと知らないことをわかって口調が変わるが、チャットGPTはいつでも自信満々。呼吸するように嘘をつくっていうんですかね」