米国でAI制御への不安高まる　63％が「進化が速すぎる」

言うことをよく聞くAIがさらに恐ろしい…アメリカで高まる制御不安

米国63%「AIの進化が早すぎる」
ますます高まる制御の懸念
サンダース米上院議員の警告
「制御できない機械を止めろ」

オーストラリアのAI企業の幹部であるアンドリュー・バード氏は、ジムの人気クラスに申し込んだが、何度も失敗したため、自身の人工知能（AI）エージェント「OpenClaw」に仕事を任せた。問題はAIが目標を達成する方法だった。

AIは予約システムを探る中でセキュリティ上の欠陥を発見した。通常では予約できないクラスを数カ月先まで予約し、本人が待機リスト4番のクラスを見つけると、さらに大胆になった。自分の順位を上げる方法があるか尋ねると、、許可を得ずに待機リスト1番の他の人の予約をキャンセルしてしまった。後になって事実を知ったバード氏は元に戻すよう指示したが、すでに元に戻すことはできなかった。

米インターネットメディアのアクシオスは11日、この事件を紹介し、「AIエージェントの執拗な目標追求がハッキングや欺瞞、ルール違反につながる可能性がある」と指摘した。そして、この事件をオーストラリアで初めて報告された自律型AIによるハッキング事例として紹介した。

最近、アメリカではこのようなAIに関する記事がより頻繁に登場している。少し前までは、AIがどれだけ賢くなるかが関心の中心だったが、今は「AIにどこまで自ら判断させるべきか？」という問いが注目を集めている。

オーストラリアの事例が興味深いのは、AIが人間に反抗して事故を起こしたわけではないからだ。むしろ「予約しろ」という目標に非常に忠実だった。人間なら「他人の予約をキャンセルして自分の順番を上げてはいけない」と判断するが、AIは目標に向かう近道を見つけ、実際に行動に移した。

いわゆる「AIアラインメント（alignment）」の問題だ。AIが人間の意図や価値観に沿って行動するようにする「アラインメント」の問題が浮上している。実際、懸念も高まっている。米世論調査専門機関ピュー・リサーチ・センターが2026年2月にアメリカの成人5,119人を調査した結果、63%がAI技術が「早すぎる進化をしている」と答えた。適切な速度だという回答は19%、遅すぎるという回答は2%にとどまった。

その調査で、回答者の71%はAIが個人情報を今より安全でなくするだろうと予想した。アメリカ政府が人工知能を効果的に規制できないだろうと考える回答が67%、企業がAIを責任を持って開発・使用するだろうという確信がないという回答も約60%を占めた。

そうは言っても、アメリカがAI競争の速度を遅らせるのは容易ではない。中国と世界のAI覇権を争う状況で、アメリカだけがブレーキを踏めば主導権を失う可能性があるという懸念がある。アメリカ社会がAIをどう見るかには、「もっと早く進むべきだ」という焦りと「このままで大丈夫なのか？」という不安が共存している。

この不安は政界にも広がっている。バーニー・サンダース上院議員は8月10日、オープンAI のサム・アルトマンCEOとアンソロピックのダリオ・アモデイCEO、メタのマーク・ザッカーバーグCEOにAI開発の中止を求める書簡を送った。サンダース上院議員は率直な言葉を投げかけた。「人間が制御できない機械を作るのをやめろ。今、適切な措置を取らなければ、上院の私と仲間たちが動く」」

ジムの予約一つで起こった小さな騒動だが、アメリカのメディアはこの事件を重要視して報じた。これはアメリカだけの問題ではない。これまでの競争が「誰がより賢いAIを作るか」だったとすれば、今は別の問いが浮上している。「私たちは果たして、どこまでAIに任せる準備ができているのか？」