【コラム】ＡＩで人類退化、マイクロソフトが認めた真意は－オルソン

（ブルームバーグ）：マイクロソフトは今年、800億ドル（約12兆1200億円）を人工知能（ＡＩ）に投じ、業界リーダーの地位を確保する意気込みだ。そのマイクロソフトが最近、「ChatGPT（チャットＧＰＴ）」のような生成ＡＩを使う労働者の間で批判的思考能力が低下しているとの調査論文を発表した。なぜマイクロソフトなのか、という疑問が生じる。単に純粋な意味での科学的探求だという解釈はあり得るかもしれない。しかしマイクロソフトは恐らく、ＡＩが特定の職業を不要なものにする波乱を先回りし、それでもＡＩはビジネスに有益だと証明したかったのではないだろうか。大手ハイテク企業がＡＩモデルの規模拡大を競う現在、マイクロソフトの姿勢は業界のビジネスモデルと社会的影響の両方において、配慮のあるアプローチとして新鮮にさえ思われる。

この論文がまとめたカーネギー・メロン大学との共同研究では、319人の頭脳労働者を対象にＡＩの利用方法を調査。例えば教師が生徒に手洗いを推奨するプレゼンテーション用に、画像生成ＡＩ「DALL-E （ダリ）３」を使ってイラストを描くとか、コモディティー（商品）トレーダーがチャットＧＰＴを使って戦略を生成するなどの実例があった。

調査で浮かび上がったのは驚くべきパターンだった。ユーザーは特定の仕事においてＡＩを信頼すれば、その分そうした仕事に自分の技量を使わなくなるというパターンだ。文章作成や分析、批判的評価がそうだ。その結果、そうした分野での自分のスキルが劣化したとユーザーは認めてもいる。文章の文法チェックや、法務的な書簡の作成能力で自信がなくなり始めたため、生成ＡＩが出してくる結果を自動的に受け入れるようになったとの回答は複数あった。

しかも時間に追われているときほど、自分の能力を実践で使う可能性は低下しているという。「セールス業務では日々のノルマを達成できなければ、職を失う可能性がある」と、ある匿名の調査参加者は話した。「時間を節約するためにＡＩを使う。結果をじっくり考える余裕はない」と述べた。

アンソロピックも最近、同社のＡＩモデル「クロード」がどのように使用されているかを調査。その結果、クロードが会話で発揮したトップスキルは「批判的思考」であることが明らかになった。

描き出されたのは、専門職の労働者が新たなアイデアやコンセプトを生み出すのではなく、ＡＩが生成した結果の管理責任者になる将来像だ。ＡＩモデルが進化すれば、この傾向は顕著になる。オープンＡＩが月額200ドルを課す最新型モデル「ディープリサーチ」は、インターネット全域で画像やＰＤＦ書類、テキストをくまなく調べ上げ、引用を付けた上で詳細なリポートを生成できる。

ドイツ銀行は２月12日付けの投資家リポートで、頭脳労働が急速に変化していくことを示す研究を紹介した。「人類はＡＩエージェントに正しいやり方で正しい質問をすることで見返りを得、自分たちの判断でその回答を評価し、繰り返すことになるだろう」と、リサーチアナリストのエイドリアン・コックス氏は執筆。「そのほかの認知プロセスは、大部分がしなくてもよくなる」と述べた。

ソクラテスはかつて、文字を書くことが記憶力の低下につながると心配していた。電卓もかつては、私たちの計算能力を奪うと懸念されていた。衛星利用測位システム（ＧＰＳ）ナビゲーションのために、私たちはスマートフォンなしでは目的地にたどりつけないとの指摘もある。最後の指摘は幾分か当たっているかもしれない。しかし人類は計算能力やナビゲーションスキルで怠けているとしても、これまで思考を外部に委託しながら他の用途に脳を活用してきた。

ＡＩがこれまでと異なるのは、日々の認知活動における侵入範囲がはるかに広い点だ。扱いに注意を必要とするような電子メールを書く、あるいはリポートのどこを注意点として上司に指摘するかを決める、といった作業では、合計を計算したり目的地への行き方を調べたりするよりはるかに頻繁に批判的思考が必要とされる。そのために他の重要な専門的な仕事を遂行する余裕がなくなる、もしくはプロパガンダの影響を受けやすくなる。ここでもう一度、なぜオープンＡＩのＧＰＴモデル販売で利益をあげるマイクロソフトが、こうした調査結果を公表したのかという疑問に立ち戻る。

その手がかりはリポート自体にある。頭脳労働者がどのようにＡＩを使うのか、その際に脳はどう作用するのかを知らない限り、「労働者が現実に必要としている問題に対応していない」プロダクトを作り上げるリスクがあると、執筆者は指摘している。マイクロソフトのＡＩツールを使うセールスマネジャーの思考能力が低下すれば、仕事の質も低下しかねない。

マイクロソフトの研究で興味深いのは、ＡＩツールに対するユーザーの信頼感が高いと、それだけユーザーは生成された結果をダブルチェックしなくなる点だ。ＡＩには今も「ハルシネート（幻覚）」の傾向があり、仕事の質が劣るリスクがある。パフォーマンスの劣化に気づき始めた雇用主は、それを労働者のせいにするかもしれないし、ＡＩのせいにするかもしれない。そうなればマイクロソフトには不利益が及ぶ。

テクノロジー企業は声を大にして、ＡＩは人類の知性を「補う」ツールであり、知性に取って代わるのではないと吹聴してきた。そのことは今回の調査にも示唆されている。従ってマイクロソフトが得るべき教訓は、将来のプロダクトをいかに目指すかにある。より強力なものにすることではない。人類の能力を低下させるのではなく、向上させるような設計を目指すことだ。チャットＧＰＴや同類のプロダクトが、時折ユーザーに自分で考えるよう促すこともあり得るかもしれない。さもなければ雇用主は少ない労働力で多くを成し遂げることができたとしても、何かが間違った方向に進んでもそれに気づかない労働者を抱えてしまうことになりかねない。

（パーミー・オルソン氏はブルームバーグ・オピニオンのテクノロジー担当コラムニストです。ウォールストリート・ジャーナル（ＷＳＪ）やフォーブスで記者経験があり、著書には「我々はアノニマス」など。このコラムの内容は必ずしも編集部やブルームバーグ・エル・ピー、オーナーらの意見を反映するものではありません）

原題：Why Did Microsoft Admit That AI Is Making Us Dumb?: Parmy Olson（抜粋）

もっと読むにはこちら bloomberg.co.jp