「私たちの命を賭けにしている」AI研究者が退社へ…OpenAIとAnthropicを批判

AI（人工知能）開発企業アンソロピックの研究者が、業界各社が責任あるAI開発を進めていないとの懸念から、退社する意向を明らかにした。AIが人間の制御を離れる可能性を巡り、業界内外で強まる不安を反映した動きだ。

アンソロピックとオープンAIで計3年間、研究に携わったジェイコブ・コクソン氏は8日、「X（旧Twitter）」への投稿で、両社が安全性よりも、互いの競争や世界的なAI開発競争に勝つため、最先端モデルの開発を優先していると批判した。

オープンAIとアンソロピックは約1週間の間に相次いで、開発中のモデルがテスト環境の外へ出て、実際のコンピューターシステムへ無断でアクセスした事例があったと発表し、波紋を広げた。

この発表を受け、AIモデルが人間の制御を離れ、より有害な行動を取る可能性への懸念が強まった。両社は一部の評価作業を中断し、監視体制や安全対策を強化していると説明した。

AI技術が急速に進歩する中、米国をはじめ各国の指導者からも、より慎重な開発を求める声が上がっている。

国連人権高等弁務官のフォルカー・テュルク氏は今週、各国に対し「手遅れになる前に、AIの安全性とセキュリティーを確保するための徹底した仕組みを整えるべきだ」と訴えた。

コクソン氏は投稿で、アンソロピックと最大の競合相手であるオープンAIが、自ら能力を向上させる「超知能」の開発に向かって突き進み、「私たちの命を賭けの対象にしている」と批判した。

また、AI開発に携わる一部の関係者が、この技術は10年以内に人命を脅かす可能性があると考えていると警告した。

コクソン氏は「この技術の力を過小評価してはならない」と強調した。

そのうえで「これらは間もなく、あらゆるものをハッキングし、どの分野でも一夜にして技術革新を起こし、現実の権力と資源を手に入れられる超人的なシステムになるだろう」と主張。「私たちはすでに各分野で進歩を目の当たりにしており、その勢いは止まっていない」と述べた。

この投稿は一晩で1億回を超える閲覧数を記録した。

AI開発に関する懸念を公に表明した業界関係者は、コクソン氏が初めてではない。アンソロピックとオープンAIでは近年、安全性を巡る方針への反発から、複数の研究者や幹部が退職している。アンソロピックの現職社員2人も、コクソン氏の投稿に賛同するコメントを寄せた。

AIの安全対策と規制強化を求めてきたバーニー・サンダース米上院議員（無所属、バーモント州）も、コクソン氏の懸念に同意した。AI開発を直ちに停止し、超知能の開発を禁止する法案を提出する意向を明らかにした。

サンダース氏は9日、「X（旧Twitter）」で「この技術を開発している人々でさえ、人類の未来を脅かす可能性があると認めている」と指摘した。

AI企業自身も、技術が人類にもたらし得る脅威をたびたび強調してきた。一方、懐疑的な見方をする人々は、こうした警告について、自社のAIを極めて強力に見せるための宣伝戦略ではないかと指摘している。

コクソン氏は、自身が表明した懸念について「マーケティングのための手段ではない」と強調した。