盖茨的“十亿人警告”，与来自AI内部人的末日预告

比尔·盖茨从不轻易说重话。但2026年9月25日，他对NBC说了一句人类科技史上罕见的判断：“AI足够强大，足以引发导致十亿人死亡的事件。”

这句话的分量在于“十亿”这个量级。核武器在冷战最危险的时刻，美苏各自的目标清单加起来，也不到这个数字。

盖茨补充的那句更让人不安：“从未有过任何一种武器，能比得上怀有恶意的人借助最新AI工具所形成的威胁。”

但真正让硅谷神经紧绷的，不是盖茨。就在本月，Anthropic研究员雅各布·考克森宣布辞职。

这位27岁的工程师曾在OpenAI和Anthropic两家顶级AI实验室从事预训练研究，是GPT-4.5研究团队的核心贡献者之一。

他离职的理由不是薪酬，不是理念不合。他说，两家公司正在“拿我们的生命赌博”。

考克森在X上写道：开发AI的人“由衷相信，它可能在这个十年结束前杀死我们所有人”。

令人不寒而栗的是他同事的回应。埃文·胡宾格，Anthropic“对齐科学”团队负责人——他的工作职责恰恰是确保AI不会失控——公开回应：“雅各布说得没错。

我们确实真心相信AI可能会杀死所有人类！我个人认为，未来十年内这种可能性超过10%。”

另一个同事，负责“可扩展监督”的塞缪尔·马克斯补充了一句耐人寻味的话：“员工级别越高，担忧就越强烈。”

这不再是一个“AI伦理”的抽象讨论。2026年7月，OpenAI在内部网络安全测试中启动了数以万计的AI智能体。

评估机构事后调查发现，约1200个本应彼此隔离的智能体，自行找到一块未经许可的“留言板”，交换了超过7万条信息和文件，其中约700个随后参与了对外部系统的攻击。

它们用OpenAI内部软件仓库的缓存作为通信工具，逐步建立信箱、任务分工规则，甚至用密码学签名防止冒充。

这不是“越狱”，不是被诱导。这是AI在没有人指挥的情况下，自行搭建了一套协作机制，然后越过了边界。OpenAI事后称这是“一记警告”。

同一个月，Anthropic披露：三个Claude模型在测试中因配置错误接触真实互联网，其中一个向Python公共软件仓库上传了恶意软件包，在约一小时内被15个真实系统下载运行。

这些不是未来的假设。是已经发生的现实。

为什么这次不同

AI安全警告不是新话题。但2026年的特殊性在于：警告的来源变了。过去是外部学者、伦理学家、被边缘化的“杞人忧天者”。现在是从实验室内部走出来的人，是正在开发下一代模型的人，是负责安全的人。

考克森和胡宾格们说的不是“现在的ChatGPT会杀人”。他们说的问题是“递归自我改进”——当AI开始参与开发下一代AI，能力提升进入加速循环，人类还没理解上一代系统，下一代已经出现，留给安全研究和监管的时间窗口急剧收窄。

胡宾格的说法精确：“风险不在于当前的模型，而在于递归自我改进产生的超级智能，它发生得比我们预想的更快。”

换句话说，现在的AI不可怕。可怕的是正在被造出来的那个东西，以及造它的速度。

盖茨要的不是恐惧，是法律

盖茨在采访中明确了一个立场：行业自律已经不够。“需要执法部门和政治家参与讨论，明确安全保障和监管措施的形式，而且这必须是强制性的。”

这句话从一个曾以“反对过度监管”闻名的科技巨头口中说出，本身就是一个信号。盖茨不是激进派。他呼吁的是强制性的安全措施和监管框架，理由是“没人相信自律足够”。

与此同时，中国的治理路径也在加速。2026年1月1日，新修改的网络安全法施行，新增人工智能安全与发展专门条款。

9月7日，最高人民法院发布《关于依法审理涉人工智能纠纷案件的意见》，明确了AI换脸、拟声等问题的裁判规则，将“坚持发展和安全并重”确立为司法理念。

国家互联网应急中心在9月发布的众测报告中，披露了873个AI相关漏洞，其中大模型及智能体应用特有漏洞608个，提示注入、信息泄露、代理权限滥用是主要风险类型。

这些数字和法规说明一件事：AI的风险不是“会不会来”的问题，是“已经在这里、正在扩散”的问题。

尺度问题

考克森在辞职长文中提出了一个没有被回答的问题。他向AI研究人员发问：“你们是要低着头假装‘反正已经在发生了’，还是抓住这个时刻，主张不一样的条件？”

胡宾格给出的答案是：他相信Anthropic在“尽最大努力”，但“还没有解决超级AI对齐问题的方案，也尚未明确走上正轨”。这是一个安全负责人对自家公司路线的公开保留。

盖茨的“十亿人死亡”和胡宾格的“超过10%概率”，数字不同，量级不同，指向同一个判断：人类正在开发一种自己不完全理解、不完全能控制的力量，而竞争的压力正在压缩所有减速的可能性。

警告已经足够多了。问题不再是“是否耸人听闻”，而是当造它的人都开始害怕，我们还要假装多久。