「AIが人類を超える前に」フィールズ賞数学者がOpenAIへ…“暴走を防ぐ側”に回った理由
トロント大学を休職し、OpenAIで「AI安全」研究
数年以内にAIの数学研究能力が人間を超える見込み
動作原理を把握し、危険行動を制御する方法を検証
AIによる人類滅亡の可能性を懸念していたフィールズ賞受賞者が大学を休職し、ChatGPT開発企業OpenAIに向かう。カナダ・トロント大学のジェイコブ・ツィマーマン教授（38）はAIが人間の制御を超えて害を及ぼすのを防ぐ「AI安全」研究に取り組むことを決めた。
1日（現地時間）、ウォール・ストリート・ジャーナル（WSJ）は、ツィマーマン氏が先月23日、アメリカ・フィラデルフィアで開催された国際数学者会議で水色のタキシードを着てフィールズ賞を受賞したと報じた。授賞式後、受賞者に今後の計画を尋ねる場で彼は「OpenAIで働き始める」と発表した。
フィールズ賞は優れた研究成果と将来性を示した40歳未満の数学者に4年ごとに授与される数学界最高権威の賞だ。国際数学連合はツィマーマン氏が算術幾何学と複素代数幾何学分野のアンドレ・オールト予想とグリフィス予想など主要な難問を解決するのに貢献したと評価した。国際数学オリンピック金メダルを2回獲得した彼は16歳でトロント大学に入学し、2年で卒業した後、プリンストン大学で博士号を取得した。ハーバード大学を経て母校であるトロント大学数学科の最年少教授となった。
ツィマーマン氏は純粋数学を完全に離れるわけではない。彼はトロント大学を休職しOpenAI研究者として参加し、数学命題を記号と規則で表現し、厳密に検証する方法をAI研究に適用する計画だ。AIがどのような過程を経て判断するのかを把握し、危険な行動をしないよう制御する方法を見つけるのが目的だ。
ツィマーマン氏は「数年以内にAIシステムが数学研究能力で人間を確実に超える」とし、「それに伴う社会的影響と対応策はさらに難しい問題だ」と述べた。彼が解決しようとしている問題はAIの動作原理を把握し、様々なAIシステムが互いにまたは人間と安全に協力できるようにし、AIが人類を害する意図を隠しているかどうかを数学的に検証することだ。
ツィマーマン氏のこうした問題意識は2025年にAI研究者のアンドリュー・クリッチ氏と共に発表した「AIが関与する絶滅的未来の分類」という報告書にもつながった。AIが関与することで人類全体、あるいはほぼ全人類が死亡するさまざまな仮想シナリオをタイプ別に分類した論文である。ただし、著者らは、こうしたシナリオが必ず現実になると主張しているわけではなく、予防策を促すために潜在的なリスクを示したものだと説明している。
しかし、ツィマーマン氏が最初からAIを強力または危険な存在と見なしていたわけではない。彼が人間に固有だと考えていた直感と創造性までAIが実現できるということに懐疑的だったが、2022年にChatGPTを使用した後、考えを変えた。彼は当時「AIがチョコレートについて話し、詩を書くことができるなら、数学を論じて方程式を書くことができない理由があるだろうか」と考えたと回想した。
AIに対する認識の変化は学生指導と研究方向にも影響を与えた。彼はAIを活用しない数学研究の未来を保証するのは難しいと考え、研究にAIを活用する意志のない大学院生はもう受け入れなかったとWSJに語った。ツィマーマン氏は研究の重心も整数論と複素代数幾何学からAI安全の方に移し始めた。
最近AIは実際の数学研究でも人間の予想を超える成果を上げている。こうした成果だけでツィマーマン氏が懸念する人類滅亡の可能性が証明されるわけではないが、AIの数学能力がどの程度に達しているかを示している。OpenAIは昨年5月、当時未公開だった内部モデルが平面に複数の点を置いたとき、一定の距離だけ離れた点の対を最大何組作れるかを扱う「単位距離問題」で長年の核心未解決予想を覆す証明を見つけたと発表した。外部の数学者もその結果を検証した論文を公開した。
OpenAIがモデルの推論過程を再構成して公開した資料は125ページに達した。ツィマーマン氏は「私なら12ページだけ読んでも頭が痛くなっただろう」と述べた。
似たような成果はOpenAIの競合であるAnthropicでも出ている。Anthropic所属の数学者レベント・アルポゲ氏は先月AIモデル「Claude Fable 5」が「ヤコビアン予想」を3次元で崩す反例を見つけたと公開した。アルポゲ氏はツィマーマン氏の指導を受けた弟子であり、アメリカの大学学部生の中で優れた数学研究者に与えられるモーガン賞を受賞した経歴もある。WSJは師がAIの危険を減らす研究を選び、弟子はAIを活用して87年間解決されていなかった予想を覆す反例を見つけたと伝えた。
