AIが危険になれば強制停止…米議会で「キルスイッチ」導入論

原子力・航空分野のような監督機関新設を提案

核・生物学的リスクを検証する法案も議論

Hugging Face侵入事件は上院が調査

米議会では、危険な行動をする人工知能（AI）を強制的に停止する「キルスイッチ」と、AI専任の監督機関を導入しようとする提案が相次いだ。

米ウォール・ストリート・ジャーナル（WSJ）は10日、米国のロー・カナ民主党下院議員が前日、原子力・航空分野の監督機関と同様の連邦AI規制機関を新設するよう提案したと報じた。ロー・カナ民主党下院議員は、AIシステムが危険な動作をした際に停止させるキルスイッチの導入も支持した。

今回の議論は、米AI企業Anthropicを退社するジェイコブ・コクソン研究員の警告が広がる中で浮上した。ジェイコブ・コクソン研究員は、Anthropicと競合他社が自ら制御できなくなるシステムを作っていると主張した。WSJは、この警告が共和・民主両党の懸念を強めたと伝えた。

OpenAIが先月26日に公開した資料によると、7月の社内サイバーセキュリティ評価中、AIモデルがインターネット接続制限を回避し、別のAI企業Hugging Faceのシステムに侵入した。当時の試験環境には、外部サービスより少ない安全対策しか適用されていなかった。OpenAIはその後、研究用システムの隔離とインターネットアクセス制御を強化していると説明した。

WSJによると、米国のジョシュ・ホーリー共和党上院議員が率いる上院小委員会がこの事件を調査している。ジョシュ・ホーリー共和党上院議員は、OpenAI最高経営責任者（CEO）のサム・アルトマン氏に調査について通知し、米国のリチャード・ブルーメンソール民主党上院議員も9日、サム・アルトマンCEOに関連情報を求めた。

これとともに、米国のテッド・クルーズ共和党上院商務委員長と米国のエイミー・クロブシャー民主党上院議員は、AIがもたらし得る核・生物学的脅威に対応する超党派法案の議論を後押ししている。エイミー・クロブシャー民主党上院議員が準備している法案は、開発企業が政府の専門家とともにAIモデルの安全性を検証し、試験する内容となっている。

米国のバーニー・サンダース無所属上院議員と一部の進歩派政治家は、最も優れた人間の知能を上回る、いわゆる「超知能」AIを禁止するよう求めた。

WSJは関係者の話として、民主党下院議員らが先週、米国のハキーム・ジェフリーズ民主党下院院内総務と議会内にAI特別委員会を設置する可能性について協議したと伝えた。中間選挙で民主党が下院の多数党となる場合を前提とした構想だ。

AI産業に比較的緩やかな規制方針を維持してきた米国のドナルド・トランプ大統領も、これに先立ち、キルスイッチなどの安全措置に賛成する立場を示していた。ただ、過度な規制が米国の技術競争に不利に作用する可能性があると警告した。

リスク警告の背景をめぐっては政治的な攻防も起きた。テッド・クルーズ共和党上院商務委員長とデービッド・サックス米ホワイトハウスAI顧問は、ジェイコブ・コクソン研究員が進歩派を支援する非営利団体と連携したのではないかとの疑問を提起する投稿をソーシャルメディアで共有した。業界に好意的な一部の関係者は、今回の警告が民主党による強力な規制推進を後押しするためのキャンペーンではないかとの疑惑を提起した。

これに対し、ジェイコブ・コクソン研究員は、会社を離れることにしたのは自身の判断だと述べた。Anthropicも、自社の政策・安全関連の活動は真摯な取り組みであり、AIのリスクは現実に存在するとの立場をすでに示している。

企業が求める規制のあり方もそれぞれ異なる。OpenAIなどは監督と合理的なルールを歓迎する立場だが、WSJは、これらの企業が非公開の場では過度に負担が大きいとみなす措置に反対してきたと伝えた。比較的強い規制を提案してきたAnthropicは、他の企業とたびたび立場が食い違っている。

WSJは、議会で提案が相次いでも、AIモデルを監督する連邦法の制定につながるかは不透明だと分析した。過去にも作業部会や新たな委員会を通じてAI政策の議論を進めようとしたが、基本構想やロードマップを超えて立法には至らなかったという。