「重大なサイバーリスク」にOpenAI初認定　新AI「Astra」は機能制限して公開へ

OpenAIが、自動化されたサイバー攻撃を実行できると判断した次世代人工知能（AI）モデル「Astra（アストラ）」について、最先端のサイバーセキュリティ機能の一部を制限したうえで一般公開する方針を明らかにした。自社のAIエージェントが制御を離れ、企業をハッキングする事案が発生したことを受け、セキュリティ対策を強化する措置の一環だ。

OpenAIは1日（現地時間）、公式ブログを通じて「近く最新モデル『Astra』を公開する予定だが、最高水準のサイバーセキュリティ機能へのアクセスは制限する」としたうえで、「高度なサイバーセキュリティ機能は当初、少数のテスターのみに提供し、その後、利用範囲を拡大する予定だ」と明らかにした。

同社は独自のテストの結果、Astraが人間による介入を最小限に抑えた状態でも、難易度の高い標的に対して新たなサイバー攻撃を設計し、実行できることを確認したという。

専門家がセキュリティを強化したウェブブラウザやOS（基本ソフト）を対象に評価したところ、Astraはブラウザのセキュリティ領域を突破したほか、これまで知られていなかった脆弱性を発見し、実際の攻撃に利用できる形へとつなげることができた。

こうしたテスト結果を踏まえ、OpenAIはAstraがサイバーセキュリティ分野で「重大（critical）なリスク」に該当する基準を満たしたと判断した。

OpenAIが自社モデルをサイバーセキュリティ分野で「重大なリスク」に分類したのは今回が初めてとなる。

OpenAIの内部基準では、人間の介入なしに実際のシステムからゼロデイ脆弱性を特定できる、または目標を与えられるだけでサイバー攻撃の戦略を自ら立案し、実行できるという2つの条件のうち、いずれか1つでも満たせば「重大」段階に分類される。

OpenAIは先月、次世代AIモデルが10年以上解決されていなかった数学上の難問10問を解いたと発表し、Astraの存在を明らかにしていた。

その後、サイバー攻撃能力への懸念を理由に開発を一時中断すると発表した。米ウォール・ストリート・ジャーナル（WSJ）は、「AI開発企業がセキュリティ上の懸念を理由にモデル開発を公に遅らせる異例の事例だ」と評価した。

その後、OpenAIはAstraに対する追加の安全対策を導入してきた。

OpenAIは「AI開発が進むにつれ、モデルがより重要な役割を担えるようになり、アラインメントや制御の失敗がより深刻な結果を招き得る段階に入りつつある」としたうえで、「こうしたシステムの恩恵を実現するためには、モデルの能力向上に合わせて、モデルを適切に整合させ、制御する能力が不可欠だ」と説明した。