中国AI企業、AnthropicのAIで学習…数千の偽アカウント使い「蒸留」試みる

中国の人工知能（AI）企業Moonshot AIが、自社AIモデル「Kimi」の利用者が入力した質問をひそかに米AnthropicのAIモデル「Claude」に送り、回答を得ることで、競合他社の技術を自社AIの学習に活用していたことが明らかになった。

Anthropicは10日（現地時間）に公開した脅威情報報告書で、Moonshot AIなど中国のAI企業がClaudeを無断で利用し、自社モデルの性能を向上させる、いわゆる「蒸留」を試みた事例を明らかにした。Moonshot AIは5～7月、数千の偽アカウントを使い、Claudeと2,300万件以上のやり取りをしていたことが確認された。過去7カ月間に同様の試みを行った中国に拠点を置くAI研究所は、計7カ所に上った。利用者がKimiに質問すると、Moonshot AIはその質問を、中国国外の仲介業者が作成した偽のAnthropicアカウントを通じてClaudeに送り、回答を得ていた。仲介業者は偽の身分情報や、盗まれた、または偽造されたクレジットカード、盗み出したAPI（アプリケーション・プログラミング・インターフェース）キーなどを使ってAnthropicのアカウントを大量に作成し、中国のAI企業がClaudeを利用できるようにしていた。Anthropicはこうした仲介業者を、中国のAIと米国のAIをひそかにつなぐ「中継拠点（transfer stations）」と表現した。

Kimiの利用者は、自分の質問や情報がClaudeにまで送られていることを知らなかった。実際、ある利用者がKimiに、中国・成都の数百台のCCTVから収集した特定人物の監視データを分析するよう求めたところ、そのデータがClaudeに送られた。

Moonshot AIがこのようにClaudeから回答を得ていたのは、Claudeの性能を自社モデルに取り込む「蒸留」のためだ。性能の高いAIが生成した大量の回答を別のAIに学習させ、低コストで性能を向上させる手法である。蒸留自体はAI業界で広く使われているが、競合他社の許可なく大量の偽アカウントを作り、回答を引き出して学習に活用する行為は、技術の無断複製を巡って物議を醸している。

一方、Anthropicは同じ報告書で、Claudeが国家による監視や危険な生物学研究にも悪用された事例を明らかにした。中国ではSNSへの投稿を分析して監視対象を選び出すために、西アフリカのマリでは移動通信網の傍受プラットフォームを開発するために、それぞれClaudeが利用された。また、中国のある研究者は、鳥インフルエンザウイルスが哺乳類に感染する可能性を高める変異を研究する際に、Claudeの支援を受けていたことが分かった。