（ブルームバーグ）：生成人工知能（ＡＩ）スタートアップ、米アンソロピックのダリオ・アモデイ最高経営責任者（ＣＥＯ）は20日、自社を含むＡＩ企業について、一般消費者に対して技術の安全性を確保するための検査を必須にすべきだと指摘した。

サンフランシスコで開催された米商務省と国務省主催のＡＩ安全サミットでアモデイ氏は質問に答え、「検査の義務化は絶対に必要だと思うが、実施方法についてはかなりの慎重さが求められる」と述べた。

発言に先立ち米国と英国のＡＩセーフティー・インスティテュート（ＡＩＳＩ）は、アンソロピックのモデル「Claude（クロード）3.5 Sonnet（ソネット）」をサイバーセキュリティーや生物学的機能などさまざまな項目で検査し、結果を発表していた。同社は競合相手のオープンＡＩとともに、ＡＩＳＩへのＡＩモデル提出に以前から同意していた。

アモデイ氏は、アンソロピックの責任あるスケーリング方針やオープンＡＩの準備フレームワークなど、主要企業が同意している任意で自主的な安全指針が点在することに言及したが、より明確な要件が必要だと指摘した。

「企業が実際にこうした計画を順守していることを検証・保証できるものはない。そうすると表明しているだけだ」とした上で、「世間の目と従業員が気にかけていることが一定の圧力になってきただろうが、それだけでは不十分だと思う」と論じた。

アモデイ氏の見解は、最も賢い人間さえ超える強力なＡＩシステムが2026年にも登場する可能性があるとの自身の見方などが影響している。ＡＩ企業が検査している生物学的脅威や他の壊滅的被害はまだ仮説の段階だが、急速に現実のものになりかねないと同氏は強調した。

その一方で、技術進化の速さを考慮して検査要件は「柔軟」に保つべきだと注意を促した。「われわれは非常に難しい社会政治的問題を解決しなければならないだろう」と語った。

原題：Anthropic CEO Says Mandatory Safety Tests Needed for AI Models（抜粋）

もっと読むにはこちら bloomberg.co.jp

©2024 Bloomberg L.P.