「ターミネーターではない」4つのAIが答えた“人類滅亡シナリオ”とは

「キラーロボット」は低リスク、人間による悪用やAIの制御喪失をより現実的な脅威と指摘

ChatGPTやジェミナイ、クロード、グロックなど主要な生成AIに「AIが人類を滅亡させるとしたら、どのような方法か」という同じ質問をしたところ、映画『ターミネーター』のような「キラーロボット」が登場する可能性を最も低く評価した。一方で、人間によるAIの悪用や、高度化したAIに対する制御の喪失を、より現実的な危険として挙げた。

11日、ビジネスインサイダーによると、同メディアはOpenAIのChatGPT、Googleのジェミナイ、Anthropicのクロード、xAIのグロックに、AIが理論上、人類滅亡を引き起こす可能性のあるシナリオを尋ねた。専門家の分析に基づき、可能性が低いものから高いものまで順位を付け、それぞれどのような過程で起こり得るのか、また、それを防ぐための安全策について説明するよう求めた。

ChatGPTは、AIが意識を持ち、意図的に人間を排除する「キラーロボット」シナリオを最も可能性が低いケースとして挙げた。「ほとんどのAI研究者は、意識や悪意のある意図を主要なリスクとは見なしていない」と答えた。AIによる人類滅亡が起こる可能性が高い、あるいは避けられないとの専門家の合意もないと付け加えた。

ジェミナイも、AIが自意識を持ち、人間を憎むようになる映画『ターミネーター』のようなシナリオを最も低く評価した。高い知能を持つことが必ずしも悪意につながるわけではなく、主要な軍事施設は外部ネットワークから切り離され、人間の制御に大きく依存していることを理由に挙げた。

AIよりも危険なのはAIを使う人間か

4つのAIが共通して、より直接的な危険として挙げたのは「AI自体」よりも「AIを使う人間」だった。ChatGPTは、AIが悪意のある人物による生物兵器の開発や高度なサイバー攻撃、虚偽情報の拡散、重要インフラへの攻撃を助ける道具になる可能性があると答えた。

グロックも、AIが致命的な病原体や新たな兵器、サイバー攻撃や物理的攻撃を設計するハードルを下げる可能性があるとみている。クロードは、専門知識が不足している個人や小規模なグループでも、AIの助けを借りることで危険な病原体を開発できる点をリスク要因として挙げた。

高度化するAI、人間が制御できなくなれば

高度化したAIに対する制御を失う状況も、主要な危険として挙げられた。ジェミナイは「制御の喪失」を最も現実味のあるAIによる破滅シナリオとして評価した。AIが与えられた目標を達成する過程で、資源を確保したり、自らを守ったり、人間による停止の試みを回避したりする可能性があるという説明だ。

グロックも、AIが自己保存や資源確保、影響力の拡大を追求しながら、人間の制御に抵抗する可能性を示した。

クロードは、制御の喪失が突然起こるのではなく、徐々に進行する可能性があるとみている。AIが経済・政治・軍事分野の意思決定にますます深く関与することで、人間がAIの判断を覆したり介入したりすることが難しくなり、最終的には実質的な制御を失う可能性があるという説明だ。