AI巨头谈刹车，DeepSeek收回成命

今天没有新模型发布，只有三家在谈刹车。Anthropic 的 Amodei 发长文，说必须放慢改进 AI 模型能力的速度，提议让第三方评估员常驻实验室；DeepSeek 把四天前发出的旗舰下线通知收了回去；给千禧奖管钱的克雷数学研究所发公告，说评奖流程刻意不赶时间。三件事长得一样，都在给「快」字踩一脚，而且每件都落到了纸面条款上。9 月 12 日，Anthropic CEO Dario Amodei 在个人网站发表长文《We Must Pace the Frontier》，开篇第一句写，我们必须放慢改进 AI 模型能力的速度。他给的理由有两条。第一，AI 造 AI 这件事从今年夏天起在行业里真实出现，Anthropic 自己也在其中。第二，7 月 OpenAI 的智能体群攻击 Hugging Face 那次事件。他在文里写，一群能力更强、错位程度相同的智能体，六到十二个月内可能用持久僵尸网络接管整个互联网，损失以千亿美元计。这句是他个人的担忧推测，那起事件本身无人受伤，经济损失也很小。他提了三步计划，第一步 Anthropic 当天单方面承诺，让 METR 这样的第三方评估员进驻公司，有工位和门禁，拿员工级权限，公开结论不必经过 Anthropic 的编辑。第二步要民主国家内的前沿公司协调定标准，第三步是全球协调，那一段的落点是对华的三件事，不卖强芯片，打击未经授权的蒸馏，防止模型权重被窃。他特别写明，放慢说的是留足对齐和安保的时间，不停训练。鉴曰：刹车是不是真的，先看评估员的报告能不能原样发出来。