「開発のスピードを落とすべき」GPT-6発表直後、OpenAIのチーフサイエンティストが異例の警鐘

初の汎用人工知能（AGI）と評価される「GPT-6 アストラ」を発表した米オープンAIのチーフサイエンティストが、AIの急速な発展に警鐘を鳴らした。

7日（現地時間）、ブルームバーグによると、米オープンAIのチーフサイエンティスト、ヤクブ・パチョッキ氏は、AIの急速な発展がもたらす結果に懸念を示し、人間がAIを理解し、制御することが難しくなっていると警告した。

また、開発者がAIを人間の利益に沿うように誘導したり、開発のペースを落としたりする可能性があると予測した。AI企業や研究機関などが、安全上の理由から自主的に開発のペースを抑えるべきだとの考えを示した。

パチョッキ氏は「安全基準が確立されるまで、自主的に開発のペースを抑える動きが広がることを望む」と訴えた。

さらに、AIモデルは比較的短期間でコンピューターを操作し、人間や他のAIシステムと協力しながら研究プロジェクトを遂行できるようになったと指摘した。近い将来、AIが人間の介入なしに自ら能力を向上させる「再帰的自己改善」が起こると予測している。

パチョッキ氏は「今は極めて慎重になるべき時期だ」とし、「AIが持続的かつ急速に発展することで生じる結果に、誰も十分に備えられていないことが懸念される」と述べた。その上で、開発者には、AIをより人間の利益に沿うように調整するか、必要に応じて今後の開発ペースを抑えるか、二つの選択肢があると強調した。このうち共通の安全対策が整うまで、自主的に開発ペースを抑えることを期待した。

今回の発言は、AI業界の経営者の間で広がる悲観的な見方とも一致するものだ。米アンソロピックのダリオ・アモデイ最高経営責任者（CEO）は、AIによって新入社員の仕事の半分が代替される可能性があると警告している。

米オープンAIのサム・アルトマンCEOも過去に同様の見通しを示していたが、先週、ブルームバーグTVのインタビューでは一転して、AI業界が人類にもたらす潜在的な利益を十分に伝えられていないと指摘した。

こうした懸念が広がる一方で、企業はより高性能なAIモデルの開発を急いでいる。オープンAIやアンソロピック、グーグルなどの大手テック企業をはじめ、各国の主要AI企業は、短ければ1～2か月、長くても3～6か月ほどの間隔で次世代モデルを公開している。

米エヌビディアのジェンスン・フアンCEOは、オープンAIによる「アストラ」の発表を受け、自身の「X（旧Twitter）」で「AGI時代が到来した」と宣言した。人間の能力を上回るAIが誕生したとの認識を示したものだ。