「生物・化学兵器研究・反体制派監視まで」…Anthropic、Claude悪用の実態を公開

「生物・化学兵器研究・反体制派監視まで」…Anthropic、Claude悪用の実態を公開

イランなど反体制派管理の効率化中国企業、中継点を通じて蒸留作業

人工知能（AI）が、生物・化学兵器の開発に悪用される可能性のある研究に活用された事例が確認されたと10日（現地時間）、Anthropicが明らかにした。各国政府による反体制派の管理や、中国企業による自社モデルの学習などにもAnthropicの「Claude」が違法に利用されたことが分かった。

フィナンシャル・タイムズ（FT）などによると、Anthropicは同日、公式サイトに154ページの「2026年9月：人工知能悪用の検知と対応」報告書を発表した。2025年12月から今年8月まで、生物学的悪用、サイバー作戦、監視、通常兵器開発など7分野でAIが利用された事例を紹介した。

Anthropicは「Claude Haiku、Sonnet、Opusモデルが使用された」とし、「違法な蒸留（distillation）1件を除き、FableとMythosクラスが使用されたケースはなかった」と説明した。

蒸留は、上位AIモデルの出力を基に新たなモデルを低コストで訓練する方法だ。技術自体は合法だが、最近は中国企業が許可なく米国のAIモデルの性能を大規模に複製し、米中間で対立が起きている。

Anthropicは「生物学的悪用」分野で、一部の研究者が安全対策を回避したり、研究目的を曖昧にして隠したままClaudeを利用したりしていたと明らかにした。ロシア、中国、イランなど、サービス利用が制限されている国と関連する事例もあった。

サービス非対応国のある研究者は、数週間にわたりClaudeを利用し、鳥インフルエンザの哺乳類適応実験を計画していた。この過程でAnthropicの安全対策により、利用できるAIは最も性能の低いモデルに制限された。

Anthropicは、この研究がワクチン開発のための合法的な目的だったのか、悪意ある目的だったのかは断定できないとしながらも、「新たに浮上する生物・化学上のリスクと対応策をめぐる議論が、AI業界と政府の間で巻き起こることを願う」と強調した。

各国政府や団体が監視作戦のためにClaudeを利用した事例もあった。中国政府と関連する主体は、ソーシャルメディア（SNS）のデータを分析して政治的に敏感な人物を特定し、監視対象を選別した。イランのハッカーがSNS利用者の身元を収集する悪質なFirefoxブラウザ拡張機能を制作・配布した事例もあった。

Anthropicの脅威インテリジェンス責任者であるジェイコブ・クライン氏はアクシオスに対し、「関連するアカウントをすべて遮断し、セキュリティ対策を強化した」とし、「ただ、関連する主体がオープンソースモデルに移行するケースもあった」と語った。

Anthropicは、今年2月以降、中国の7つの研究所がClaudeを利用して蒸留攻撃を行い、これを遮断したと明らかにした。特に一部の中国研究所は、「中継所」と呼ばれる違法な仲介サービスを通じ、自社利用者の問い合わせをClaudeに転送していたことが確認された。

仲介サービスは中国国外で運営され、主に偽の身元情報や盗難クレジットカードなどを使ってClaudeにアクセスしていた。Moonshotは数千個の偽アカウントを利用し、今年5月から7月までに2,300万件以上の会話を行っていたことが分かった。第三者の販売業者からClaudeとの会話記録を購入した中国研究所もあった。

Anthropicは「少ない回数のやり取りでも、モデル性能を大幅に向上させることが可能だ」とし、「抽出した情報にその分野に関する内容がほとんど含まれていなくても、生物学やサイバー攻撃など複数の分野で危険な能力を獲得する助けとなる可能性がある」と懸念を示した。

このほか、ロシア、マレーシア、イランなどと関連する宣伝活動にClaudeが利用された事例も確認された。イエメン1件、中国3件、ロシア2件などでは、銃器やミサイル、無人航空機などの通常兵器開発にAIを利用しようとする試みもあった。