「我々の命を懸けた賭けだ」AI研究者がアンソロピック退職　2029年末までに人類を滅ぼす可能性を警告

米アンソロピックでAIモデルの訓練を担当していた研究者が、AIの危険性を警告し、会社を退職した。

8日（現地時間）、ウォール・ストリート・ジャーナル（WSJ）によると、英国出身でAIモデルの訓練を担当していた研究者のジェイコブ・コクソン氏（27）は同日、2030年までにAIが人類を滅ぼす可能性があると警告し、退職した。

コクソン氏はSNSへの投稿で、「最も極端なシナリオが現実になる可能性が高い」とし、「来年末までに制御不能な状況に陥る可能性がある」と述べた。

また、AI企業が中国の新興企業などと激しい競争を繰り広げる中でも、安全性を犠牲にしてはならないとし、「企業は責任ある行動を取っていない。我々の命を懸けた賭けをしている」と批判した。

コクソン氏は「AI開発者は、この10年、つまり2029年末までに、AIが我々を殺す可能性があると真剣に考えている」とし、「これほどの危険をもたらす人間の活動はほかにない」と指摘した。

さらに、「この技術は間もなく人間を超えるレベルのシステムとなり、あらゆるものをハッキングして、実際の権力や資源を手に入れるようになるだろう。過小評価してはならない」と警告した。

コクソン氏は、AI企業が開発競争に陥り、国家間でも競争が繰り広げられていることから、政府の介入やAI業界による共同対応が必要だと強調した。

コクソン氏は、AIの安全性を理由にアンソロピックを退職した初めての研究者となった。一方で、他のAI企業でも同様の理由で研究者が退職した例がある。