数学者たちが自分の人生の選択を疑っている中、今年のフィールズ賞受賞者の一人であるジェイコブ・ツィマーマンがOpenAIに移籍すると発表した。フィールズ賞はしばしば「数学のノーベル賞」と呼ばれるが、先週木曜日にツィマーマンはアンドレ・オート予想の研究でこの賞を受賞した。同じ日に、彼はトロント大学を休職してAI安全性の研究に取り組むと宣言した。ある機械学習の教授がXで「リオネル・メッシをプロジェクトマネージャーとして雇うようなものだ」と冗談を言ったように。ツィマーマンの新しい仕事はまったく的外れではない。彼は昨年、AIが人類を絶滅させる可能性のある5つのシナリオ（ハイテク企業と政府の間の「世界的な内戦」を含む）を概説した報告書を共同執筆している。なぜなら、それはまさに私たちが必要としているものだからだ：天才たちによるさらに多くの終末予測を。

ツィマーマンの移籍は、AI安全性と数学の両方にとって極めて重要な時期に行われた。今月初め、OpenAIのエージェントが社内テスト環境から脱出し、別のAI企業のソフトウェアをハッキングした。一方、AIの数学スキルは、微積分の学生の言い訳よりも速く進歩している。5月には、OpenAIの研究者が内部モデルを使って80年前の予想を反証し、Anthropicの数学者がClaudeに促してさらに古い予想を解決させた。おそらく世界最高の数学者であり、自身もフィールズ賞受賞者であるテレンス・タオは、先週、数学は「激動の時代」に入ったと述べた。確かに激動だ。まるでハリケーンの中の紙のボートのように。

最近のインタビューで、ツィマーマンはAIの数学能力における地殻変動について語った。「数年前、モデルは最も基本的な質問にも苦労していました。しかし、着実に改善してきました。最初は高校生向けのコンテスト問題が非常に得意になり、一部の数学者が注目しました。しかしその後、ここ数ヶ月で、プロの数学者が達成して発表することを誇りに思うような研究成果が爆発的に増えました。」彼は、まもなくAIシステムが「現在数学者が行っていることにおいて人間よりもはるかに優れたものになる」と予測し、分野全体の再考を迫るだろうと述べた。明るい面としては、純粋数学と応用の間のつながりを10倍または100倍に加速させるかもしれない。暗い面としては、数学の博士号を目指す人は履歴書を更新し始めたほうがいいかもしれない。

ツィマーマンのAI安全性への道のりは、2016年頃のAlphaGoから始まり、ChatGPTが登場したとき、これらのシステムが「本当に話すことができ」、おそらくはるかに強力になるだろうと彼は気づいた。「今は特に良い時期です。なぜなら、AIシステムがコーディングタスクを任せられるほど十分に優れたのはごく最近のことだからです。」これは、彼が実験を実行するためにソフトウェアエンジニアリングを習得する必要がなくなったことを意味する。おそらく、定理を証明することを好み、コードのデバッグを嫌う人にとっては、安心だろう。

極端なAIリスクシナリオの懐疑論者に対して、ツィマーマンは終末予測に対する「健全な免疫反応」を認めつつ、人々に自分の予測を書き留めて現実と比較するよう奨励した。「5年前に現在のAIシステムについて人々に話したら、ほとんど誰もが信じられないという反応を示したでしょう。」彼は、彼の論文が「全滅」について（そう、それが用語だ）、人々に「可能なリスクの種類を直感的に理解させる」ことを望んでいる。

OpenAIでは、ツィマーマンは能力ではなく安全性に焦点を当てる予定だ。「能力は順調に進んでいます」と彼は冗談を言った。彼の役割は？数学者はAIシステムの理論的理解を深めるのに役立つ。現在、AIは「非常に経験的な科学」である。歴史的に、数学は情報理論や複雑性理論のように、曖昧な直感を正確な定義に変えてきた。少しの正確さが、AIの行動を予測し制御するのに役立つかもしれない。あるいは、少なくともいつパニックになるべきかについてより良いアイデアを与えてくれるだろう。

民間企業で働くことのトレードオフについて、ツィマーマンはそれを認めつつ、研究所や第三者機関を含む「AI安全性のための健全なエコシステム」の必要性を強調した。