「忘れられる権利」と「学ばれない権利」

インターネットの普及以来、個人情報をめぐる議論の中心にあったのは、「一度ネット上に公表された情報は容易には消せない」という問題であった。人の評判を左右する書き込みや写真が拡散すると、それらを完全に消し去ることは至難である。事後にどれだけ救済を求めても、完全な原状回復は望みにくい。

欧州連合（EU）は、個人データ保護のための「一般データ保護規則（GDPR）」（注1） において「忘れられる権利」（注2） を定めている。大量の個人データが取得され、ビッグデータとして利用されることを念頭に置いたものである。取得されたデータから忘れられることで個人の権利利益を保護しようとする考え方であるが、AI時代には一度学習されたデータは、人間の学習とは異なり忘れられることがない。

それに加えて、「自分の顔や声をはじめ、個人に関する情報をAIに学習されない」権利を保障することが重要になっている。

2023年3月には、イタリアのデータ保護当局が、対話型AIの代表格であるChatGPTについて、GDPRに照らして学習に用いる個人データの取扱いの根拠が不明確であること、子どもへの配慮が不十分であることなどを理由に、自国内での利用を一時停止する命令を出した（同年4月にOpenAIが対応策を示し、この措置は解除された・注3） 。

クリエイターが自身の作品の無断利用に声を上げる事例、報道機関がコンテンツの取扱いをめぐって提訴する事例も相次いでいる。米国ではニューヨーク・タイムズ紙が大手AI企業を提訴し、日本でも2025年夏以降、読売新聞、日本経済新聞、朝日新聞が、生成AI検索サービスを提供する米国企業に対して記事の無断利用などを理由に提訴している（注4） 。

「忘れてもらう」だけでなく「学ばないでもらう」ためのルールづくりが、世界的な課題となっている。

しかし、「学ばれない権利」を保障することは容易ではない。AIの学習に必要な大量のデータは、ネット上から自動的に収集される。これを「データ・スクレイピング」と呼ぶ。検索エンジンが情報を集める仕組みに似ているが、生成AIの場合、集められたデータが学習に取り込まれ、別の場面で出力されてしまう点が異なる。

一度学習されたデータを、後から完全に取り除くことは技術的に難しい。だからこそ、「集められる前に、学習対象から除外しておく」仕組み、すなわち「学ばれない権利」を保障するための制度と、それを実現する技術を構築できるか否かが、今後の鍵を握る。

夏井高人『ネットワーク社会の文化と法』（日本評論社、1997年）189頁・191頁では、「個人情報をデジタル化させないで放置してもらうことを求める権利」を「現代的な意味で個人の静穏を維持する権利」と説明していた（注5） 。本書が公刊されて四半世紀が経った現在、AIによる学習から放置してもらう権利がいかに重要になるかを、すでに見通していたかのようである。