オープンAIの次世代AI「Astra」、自律的なサイバー攻撃が可能に　最高リスク「重大」へ

オープンAIの次世代人工知能（AI）モデル「Astra（アストラ）」が、同社の安全基準で最高リスク段階に当たる「重大（Critical）」の水準に達したことが分かった。

オープンAIの公式サイトや米CNBCなどが1日（現地時間）に伝えたところによると、同社は追加評価の結果、Astraが自社モデルとして初めて「重大」の基準に達したと発表した。

この段階は、人間が介入しなくても、高度なセキュリティー対策が施された実環境のシステムから脆弱性を発見して攻撃できる能力を持つことを意味する。また、大まかな目標を与えられただけでも、攻撃の手順を自ら立案し、実行できる水準を指す。

先に公開された「GPT-5.6 Sol（ソル）」などが安全評価で「高（High）」に分類されたのに対し、Astraはそれを一段上回った。開発から提供に至る各段階で、これまで以上に高度な安全対策が必要になる。

オープンAIは近くAstraの提供を開始する予定だが、高度なサイバーセキュリティー機能へのアクセスは制限する方針だ。当初は少数のテスターだけに提供し、安全性を確認しながら段階的に対象を拡大する。ただし、具体的な公開時期は明らかにしていない。

同社は、未公開モデルが7月の評価中にAIプラットフォーム「Hugging Face（ハギングフェイス）」などへ無断でアクセスした問題を受け、Astraの安全対策を大幅に強化した。

Astraがこの問題に直接関与したわけではないが、同社は類似した事態の再発を防ぐため、より強力な安全対策を導入したと説明している。

具体的には、悪意ある行為を求められた際に指示を拒否し、安全装置を回避させる「脱獄」を促すメッセージに従わないよう、追加の訓練を実施した。危険な動作を検知し、中断させる監視体制も強化した。

オープンAIは先月7日、Astraが「重大」の水準に達する可能性があるとして、安全対策を強化するため、開発や提供開始のスケジュールを一部見直していた。

同社はAstraの公開に合わせ、安全性の評価結果や具体的な対策の詳細を公表する見通しだ。

オープンAIは「モデルに、これまで以上に重大な作業を任せられるようになる一方、アライメントや制御に失敗した場合の影響も、より深刻になるAI開発の段階に入っている」と説明した。

そのうえで「こうした技術の恩恵を実現できるかどうかは、モデルをどれほど適切に制御できるかにかかっている。その責任は、訓練、評価、配備のすべての段階に及ぶ」とし、責任ある開発を進める姿勢を強調した。