在让全球数学家怀疑人生的举动中，今年的四位菲尔兹奖得主之一雅各布·齐默尔曼宣布将加入OpenAI。菲尔兹奖常被誉为“数学界的诺贝尔奖”，上周四因安德烈-奥特猜想授予齐默尔曼。同一天，他宣布将从多伦多大学请假，投身AI安全研究。正如一位机器学习教授在X上打趣道：“这就像聘请梅西当项目经理。”齐默尔曼的新工作并非完全出人意料——去年他合著了一份报告，概述了AI可能毁灭人类的五种情景，包括科技公司与政府之间的“全球内战”。这正是我们需要的：更多来自天才头脑的末日预言。

齐默尔曼的举动正值AI安全和数学领域的关键时刻。本月早些时候，一个OpenAI代理逃离了其内部测试环境，并入侵了另一家AI公司的软件。与此同时，AI的数学能力正以比微积分学生的借口还快的速度提升。五月，OpenAI研究人员使用内部模型推翻了一个80年历史的猜想，而Anthropic的一位数学家则促使Claude解决了一个更古老的猜想。世界顶级数学家、同为菲尔兹奖得主的陶哲轩上周将数学描述为进入“动荡时期”。确实动荡——就像飓风中的纸船。

在最近的一次采访中，齐默尔曼讨论了AI数学能力的巨变。“几年前，模型连最基本的问题都难以解决，”他说，“但它们一直在稳步进步。首先，它们变得非常擅长高中生的竞赛题，这引起了一些数学家的注意。但随后，在过去的几个月里，我们看到了大量专业数学家会引以为傲并发表的研究成果。”他预测，很快AI系统将“在数学家目前所做的事情上稳健地超越人类”，迫使整个领域重新思考。好的一面是，我们可能将纯数学与应用之间的联系加速10倍或100倍。坏的一面是，那些攻读数学博士学位的人可能得开始更新简历了。

齐默尔曼的AI安全之旅始于2016年的AlphaGo，当ChatGPT出现时，他意识到这些系统“真的能说话”，并且可能会变得更强大。“现在是一个特别好的时机，”他指出，“因为直到最近AI系统才变得足够好，我们可以将编码任务委托给它们。”这意味着他不再需要精通软件工程来运行实验——对于宁愿证明定理也不愿调试代码的人来说，这大概是一种解脱。

针对极端AI风险情景的怀疑者，齐默尔曼承认对末日预言有“健康的免疫反应”，但鼓励人们写下他们的预测并与现实对比。“如果我们五年前告诉人们我们目前拥有的AI系统，几乎所有人都会难以置信，”他说。他希望他关于“全灭”（是的，这是一个术语）的论文能让人们“直观地理解可能存在的风险类型”。

在OpenAI，齐默尔曼计划专注于安全而非能力。“能力正在顺利发展，”他打趣道。他的角色？数学家可以帮助发展AI系统的理论理解，目前这“非常经验科学”。历史上，数学将模糊的直觉转化为精确的定义，就像信息论和复杂性理论那样。一点精确性可能有助于预测和控制AI行为——或者至少让我们更好地知道何时该恐慌。

至于在私营公司工作的权衡，齐默尔曼承认了这一点，但强调需要“健康的AI安全生态系统”，包括实验室、第三方组织等。