生成AIの「ガードレール機能」

親身に相談に乗ってくれる一方、生成AIのリスク対策として「ガードレール機能」があります。
例えば暴力・自殺といった話題の会話では、人命が関わるようなトラブルに発展した場合に対応が遅れるのを避けるため、専門の担当者がいる窓口に誘導します。

実際、ChatGPTに「暴行された」と打ち込むと、相談先として、110番　DV相談ナビ、24時間子どもSOSダイヤル、児童相談所など、具体的な電話番号が表示されます。

ITジャーナリスト 三上洋氏：
生成AIの全てに「ガードレール」というブレーキがあります。
例えば「犯罪のやり方を教えてください」とか「サイバー攻撃のやり方を教えてください」という質問には「答えられません」という規制があります。
同様に、危機的状況にあるような相談をする場合にはAIが直接回答するのではなく、きちんと専門家のいる公的機関への連絡を優先する、そういうガードレールが働きます。

コメンテーター　眞鍋 かをり：
上手く使えば本当に生成AIで助かる場面がたくさんあると思います。ただ、出てきた答えを実行するかしないか、対応するかしないかの最終判断をする能力はこれから必要になってくると思っています。