菲尔兹奖得主谈AI灭绝人类

一个刚刚站上数学巅峰的人，转身去研究：如何不让AI失控。

2026年菲尔兹奖得主雅各布·齐默尔曼（Jacob Tsimerman）宣布暂别多伦多大学的日常工作，加入OpenAI研究AI安全。

更引人关注的是，他此前与研究者Andrew Critch合写过一篇论文，系统梳理了AI可能导致“几乎全人类死亡”的五类路径。

但热搜标题里，最容易被忽略的是两个字：可能。

论文明确强调，这些情景不是不可避免的结局，而是需要提前识别、努力阻止的风险。

齐默尔曼真正提出的问题是：我们正在训练越来越强大、却仍主要依靠经验理解的AI系统。当它的能力增长速度超过了理论研究、安全评估和社会治理，我们凭什么确信，它会一直按照人类的意图行动？

因此，他加入最前沿的AI公司，看似矛盾，其实是把担忧从舆论场带进实验室——尝试用数学，将“它应该是安全的”变成可定义、可验证、可预测的结论。

这可能才是面对AI更成熟的态度：

不神化，也不妖魔化；既承认它带来的巨大生产力，也不把人类的未来押在一句“应该不会出事”上。

AI会不会灭绝人类，目前没有人能够给出确定答案。

但有一件事可以确定：当一种技术开始深刻影响科研、经济、军事和社会秩序，安全就不应该是产品发布后的补丁，而应该成为能力增长的前置条件。

真正值得讨论的，不是“末日会不会明天到来”，而是：

在AI变得比我们更聪明之前，我们能否先建立一套比今天更聪明的规则？

你认为，前沿AI应该继续全速发展，还是先补上安全验证？

AI安全人工智能科技观察