マイクロソフト、生成ＡＩ使い有害コンテンツ作成したハッカーを特定

（ブルームバーグ）：米マイクロソフトは「Azure（アジュール）」サービスを含む生成ＡＩ（人工知能）ツールを使って有名人の同意を得ていないプライベート画像など性的に露骨な有害コンテンツを作成した米国および海外のハッカーを特定したと発表した。

これらのハッカーは生成ＡＩツールに施されている不適切なコンテンツ作成を防ぐ対策（ガードレール）を回避していたという。

マイクロソフトによれば、ハッカーは公開ソースから入手した顧客のログイン情報を使って生成ＡＩサービスにアクセスした。その後、ＡＩ製品の機能を変更し、他のハッカー集団にアクセス手段を販売し、有害コンテンツの作成方法を伝えたという。

マイクロソフトが特定したハッカーはイランと英国、香港、ベトナムに拠点を置いており、同社が「Storm-2139」と名付けたグローバルなサイバー犯罪ネットワークのメンバーだという。ほかにフロリダ州とイリノイ州在住のメンバー２人も特定しているが、犯罪捜査の妨げにならないよう氏名の公表は控えるとした。マイクロソフトは米国および海外の法執行機関に刑事告発する準備をしていると説明した。

今回のマイクロソフトの動きは、生成ＡＩツールの人気が高まるにつれて著名人や一般人のフェイク画像や性的児童虐待のコンテンツ作成などへの懸念が高まる中で起きた。

マイクロソフトのデジタル犯罪対策部門（ＤＣＵ）の法務顧問補佐スティーブン・マサダ氏は27日のブログ投稿で、「われわれはＡＩの悪用を非常に深刻に受け止めており、悪用によって生成された画像が被害者にもたらす影響は深刻かつ永続的だと認識している」と表明。「マイクロソフトは、強固なＡＩ安全対策を当社のプラットフォームに組み込むことでユーザーを守り、当社のサービスを違法で有害なコンテンツから保護することに引き続きコミットしていく」とした。

原題：Microsoft Outs Hackers Behind Tools to Bypass AI Guardrails（抜粋）

もっと読むにはこちら bloomberg.co.jp