AI「蒸留」とは、なぜ米企業が中国競合を非難するのか－攻撃どう防ぐ

（ブルームバーグ）：米国のAI企業は、より高度なチャットボットを開発するために数千億ドルを投じてきた。こうした投資は、顧客から十分な収益を得て回収できるとの見通しに基づくものだが、競合他社がはるかに低いコストで対抗するAIシステムを開発すれば、その前提が揺らぐリスクを抱えている。

米企業はここ数年、中国の競合各社が「蒸留（distillation）」と呼ばれる手法を使い、米国の先端AIモデルの成果を不適切に利用していると非難している。中国企業がこうしたやり方で、開発コストを大幅に抑え、安全対策も少ない次世代チャットボットを開発しているという。

対話型AI「Claude（クロード）」を展開する米アンソロピックは6月、中国のアリババグループがClaudeモデルから大規模かつ不正に蒸留を行い、アリババ独自のAIシステム開発に利用したと主張した。

アンソロピックと「ChatGPT」の米OpenAIはこのほか、DeepSeek（ディープシーク）やミニマックスを含む他の中国AI企業についても同様の疑惑を指摘している。これまでのところ、アリババなどの中国企業はいずれもこれらの疑惑について回答していない。

蒸留とは何か

蒸留とは、ある大規模言語モデル（LLM）の出力を利用して別のモデルを学習させる手法で、AI研究機関で広く用いられている。

開発者はより高性能な「教師モデル」に対して一連のプロンプトを入力し、その応答を利用して、より小型の「生徒モデル」を学習させる。こうして生徒モデルは教師モデルの多くの能力を再現できるようになる。

完成したモデルは、元のモデルと同様の機能を数多く備えながら、同等のシステムをゼロから開発・運用する場合に比べて、開発費や必要な計算リソースを大幅に削減できる。知識がモデル間で直接移転されるわけではなく、生徒モデルは教師モデルへの問い合わせ結果を基に、その振る舞いを模倣することを学習する。

企業が自社モデルに対して蒸留を行う場合や、外部開発者が競合しない技術を構築する目的で利用する場合には、蒸留は一般的に認められている。

「認可された蒸留（authorized distillation）」と呼ばれるこの手法では、企業や研究者が大規模モデルを特定用途向けに最適化された、より小型で効率的なモデルへ圧縮できる。こうした派生モデルは通常、元のモデルと同等の性能は持たないものの、処理速度が速く、開発・運用コストも低い。

なぜ蒸留が問題視されることがあるのか

第三者が権利者の許可なく、独自仕様のAIモデルの能力を複製する目的で蒸留を利用することも可能だが、これは法的かつ経済的、そして安全保障上の懸念を招く慣行だ。

米国の主要AI企業は、無認可の蒸留が自社事業を脅かすと訴えている。

DeepSeekをはじめとする多くの中国AI企業は、基盤となるAIシステムの一部を公開し、利用者が自由にダウンロードして自らの環境で実行できる「オープンウエート」モデルを開発している。

一方、米国の大手AI企業はモデルを非公開とし、顧客に製品へのアクセス料金を支払ってもらうことで、データセンターなどインフラ整備に投じた数千億ドルを回収する戦略だ。

米AI企業側は、競合他社がそのモデルをわずかなコストで再現し、安価または無料で提供できれば、自社の売り上げが損なわれる恐れがあると説明。米当局の推計によると、無許可の蒸留によって米企業は年間数十億ドル規模の収入を失っている。

米AI企業はまた、無許可の蒸留には安全保障上のリスクもあると指摘する。敵対国がこの手法を利用し、違法かつ危険なユーザーの行為を防ぐ安全対策を取り除いたAIモデルを開発し得るという。

その例として、致死性病原体を生み出すことや、大規模かつ自動化されたサイバー攻撃への悪用を挙げている。

企業は蒸留攻撃をどのように検知するのか

疑惑に関する証拠の多くは状況証拠であり、現時点では競合モデルが蒸留によって開発されたことを完全に立証するのは難しい。

アンソロピックは2月、同社モデルの出力を中国の主要AI開発企業3社が「不正抽出」しようとしたと発表した。

これらの企業は不正なアカウントを利用して1600万件を超えるやり取りを行っており、アンソロピックはインターネットプロトコル（IP）アドレスやメタデータを基に特定できたという。また、業界のパートナー数社も、各社のプラットフォーム上で同じ主体と行動を確認していたとしている。

アンソロピックはアリババによる蒸留の疑いについて、複数の米上院議員とホワイトハウス当局者へ6月に送付した書簡で4－6月に約2万5000件の不正アカウントを通じてClaudeと2880万件のやり取りが行われたと明らかにした。この書簡を知る関係者からの情報やブルームバーグ・ニュースが確認した写しで分かった。