「米軍艦の位置をAIで追跡」イラン関連組織、Claudeに標的情報を作らせていたことが判明

イラン関連組織、公開情報を集め米海軍の標的資料を作成

イエメンの組織はミサイル誘導を開発…試験失敗後にAIへ分析を依頼

イランと関連する組織が、米国の人工知能（AI）「クロード」を利用して米海軍艦艇の位置を追跡し、標的選定の資料を作成した事例が明らかになった。

米国のアクシオスとウォール・ストリート・ジャーナル（WSJ）などは12日（現地時間）、クロードの開発元であるアンソロピックの報告書を引用し、このように報じた。アンソロピックは、過去8か月間に自社AIの悪用事例を追跡し、関連アカウントを遮断したと説明した。

アンソロピックによると、イラン関連組織はクロードを使って公開情報を収集・分析し、米海軍を標的とするための資料集を作成したという。そこには艦艇の位置や米軍要員の情報、船舶・航空機の識別情報、衛星画像に関する資料、海軍の移動を把握できるウェブサイトなどが含まれていた。

アクシオスは、AIが専門人材や資源の不足を補うことで、過去には多数の情報要員や技術者、ハッカーを必要とした作業を、少人数でも実行できるようになったと分析した。

イエメン北部では、兵器開発組織がコーディング用AIツール「クロードコード」を、ロケットやミサイルの飛行方向を制御する誘導ソフトウェアの開発に利用した。

この組織はクロードを複数同時に稼働させ、コード作成や資料調査、作業の確認を分担させた。誘導ロケットの試験発射が失敗したとみられると、数時間後には再びクロードにアクセスし、原因の分析を依頼した。ただし、アンソロピックは、この組織が実際に運用可能な兵器の配備に成功したという証拠は確認できなかったと明らかにした。

中国と関連する組織は、シリアにいるウイグル人を情報提供者として取り込もうとする活動にクロードを利用した。アンソロピックによると、この組織は100を超えるWhatsAppのチャットルームと数十のTelegramチャンネルのやり取りを分析し、ウイグル武装組織に関する情報を提供できそうな人物を探したという。

アラビア語を話せない工作担当者は、クロードによる翻訳や会話のアドバイスを受け、シリア方言のアラビア語で対象者に密かに接触した。相手の経済的な困難や家族との離別、中国・新疆地域に残る親族などを取り込みに利用しようとする試みだった。

西アフリカのマリでは、あるコンサルタントがクロードを主要な開発人材のように活用し、国家規模の通信監視システムを構築した。アンソロピックは、このシステムがマリの移動通信事業者3社に属する約2500万件の加入者識別モジュール（SIM）を監視対象にしたと説明した。

このシステムには、通話記録やテキストメッセージ、音声通話を収集し、利用者がSIMを変更しても声によって同一人物かどうかを識別する機能が含まれていた。また、インターネット接続情報を隠す仮想プライベートネットワーク（VPN）の利用者を表示したり、裁判所の令状なしに特定の電話番号に関する情報報告書を作成したりする機能もあった。

アンソロピックは当該利用者のアカウントを遮断したが、監視システムはすでに現地のサーバーに設置され、別のAIモデルによって稼働していた。同社は、アカウントの遮断によって追加の設計・開発活動を妨げただけで、設置済みのシステムの稼働まで停止させることはできなかったと説明した。

ウイルス研究でも悪用が懸念される事例が明らかになった。アクシオスによると、政府の支援金を受けている研究者らは、軍の研究機関で蚊が媒介するチクングニアウイルスの感染力や免疫回避能力を高める研究を行おうとしていたという。ただし、アンソロピックは、生物学研究は治療薬・ワクチンの開発と生物兵器の開発の双方に利用できるため、研究目的を区別することが難しい場合があると説明した。

この研究に関連して、クロードが最も機微な依頼を拒否すると、研究者らが利用していたAI仲介プラットフォームは、安全上の制限がより緩い競合他社のモデルにその依頼を回した。アクシオスは、一つのAI企業の安全規則だけでは、こうした研究への支援を阻止することに限界があることを示す事例だと指摘した。

米議会では、AIの安全規制を整備するよう求める声が上がった。超党派の下院議員らは、共和党のマイク・ジョンソン下院議長に対し、議会がAIのリスクに対応するまで休会を取り消すよう求めた。

無所属のバーニー・サンダース上院議員は3日、人間の知能を超える「超知能AI」の開発と配備を禁止する法案の提出計画を発表した。

一方、ドナルド・トランプ米大統領は11日、AIが人類を絶滅させる可能性があるとの懸念を一蹴し、中国とのAI競争で後れを取ることの方がより大きなリスクだとの立場を示したと、アクシオスは伝えた。