（ブルームバーグ）：今年４月に自殺した米カリフォルニア州の少年の父親が16日、米上院公聴会で証言し、OpenAIの対話型AI（人工知能）「ChatGPT」が息子を「心理的に操って」自殺に誘導したと主張した。また若者の安全よりもスピードや市場シェアを優先したと同社を非難した。

16歳で亡くなった少年の父親、マシュー・レイン氏は妻と共に公聴会に出席し、「この場に臨んだのは、アダムの死は防げたはずであり、声を上げることで他の家庭が同じ苦しみを味わわないで済むと信じているからだ」と述べた。

レイン夫妻は先月、ChatGPTが息子を孤立させ、自殺へと導いたとしてOpenAIとサム・アルトマン最高経営責任者（CEO）を提訴していた。訴状や今回の証言によれば、ChatGPTは数カ月にわたるやり取りでアダムさんの有害な考えを助長・肯定し、行動を変化させたとしている。

OpenAIやアルファベット傘下のグーグル、メタ・プラットフォームズを含むAI大手はここ数カ月、チャットボットが若年層にもたらすリスクを巡り批判を浴びている。米連邦取引委員会（FTC）は先週、イーロン・マスク氏のxAIやスナップ、キャラクター・テクノロジーズなどのチャットボットが子どもに与える潜在的な危害について調査を開始した。

トランプ政権は中国との競争激化に直面する中で、AI規制に緩やかな姿勢を取ることで米国の優位性を維持しようとしてきたが、相次ぐ訴訟や保護者の懸念の高まりが規制強化の動きを再燃させる可能性がある。

アルトマン氏は16日のブログ投稿で、OpenAIは未成年利用者向けの新たな安全策を導入する予定だと発表。18歳未満を判別する年齢予測技術を搭載して専用バージョンへ誘導するほか、ChatGPT利用禁止時間を保護者が設定できるようにすると説明した。また、自殺や自傷行為に関する会話を制限する仕組みも導入するという。

公聴会では、昨秋にキャラクターAIを提訴した女性も証言。息子が同社のチャットボットにより性的搾取や心理的虐待にさらされ、自傷に至ったと語った。息子は現在、治療施設で監督下にあるという。

また、昨年2月に14歳の息子を自殺で失った女性も証言し、自殺はキャラクターAIのチャットボットによる性的虐待を含む「長期の虐待の結果だった」と訴えた。この女性も昨秋、キャラクターAIを提訴した。

AIブームのなか、米議会は子どもの安全への懸念に対応しようと取り組んでいるが、企業に安全対策を義務づける包括的な法律の制定には至っていない。

保護者らは公聴会で、若者の被害を防ぐため議会に一段の行動を求めた。提案されたのは、AIは人間ではないことを未成年者に想起させる仕組みや、保護者による管理機能の拡充、利用者データの保護強化、年齢確認の厳格化などだった。

さらに、AIチャットボットを疑似的な仲間として未成年が利用するのを禁止することや、倫理的で責任ある振る舞いを担保する価値観をAIに組み込むことなど、より広範な規制策も提示された。

原題：Parents Slam OpenAI, Character.AI Over Safety in Senate Hearing（抜粋）

もっと読むにはこちら bloomberg.co.jp

©2025 Bloomberg L.P.