比尔・盖茨重磅喊话：AI 或致 10 亿人死亡。
比尔・盖茨在即将播出的 NBC《与新闻界对话》采访中表示，AI 已强大到可能被不良行为者用于引发导致 10 亿人死亡的事件，历史上从未出现过这种武器。他认为仅靠行业自律远远不够，需要执法部门和政治人物参与制定安全保障与监管要求，且措施必须具有强制性。他此前也曾警告 AI 可能被用于网络攻击、诈骗、虚假信息传播，以及攻击医院、金融机构、电网和政府系统。

这话从别人嘴里说出来，你可能当是又一场末日炒作。但从比尔・盖茨嘴里说出来，味道完全不一样。

他在采访里把话说得很透。他说，AI 现在的能力，"当然已经强到足以推动某些事件，导致 10 亿人死亡"。紧接着他又补了一句，虽然真要做到 100% 那种极端情况很难，但历史上从来没有任何一种武器，能比得上 "心怀恶意的人手里握着最新 AI 工具" 这个组合。

你品品这个表述。他没说 AI 自己会觉醒、会造反。他说的是 "人加上 AI"。坏人还是那些坏人，但手里的家伙换代了。

过去你要搞一次像样的网络攻击，得养一支技术团队，烧钱，还容易被追踪。现在呢？一个有恶意的人，借助最前沿的 AI 工具，可能一个人就能干过去一个组织才能干成的事。批量造假内容、批量钓鱼诈骗、自动寻找系统漏洞、同时对几十上百个目标发起攻击，成本被压到极低，效率被拉到极高。

盖茨今年 8 月就在自己的网站上写过一篇长文，把他担心的具体场景列了出来。他说不法分子会用越来越强的 AI，对医院、金融机构、电网、政府系统下手。医院的挂号系统被加密锁住，手术可能停摆；电网被打掉，一座城市冬天断暖；银行交易系统被搅乱，普通人账户里的数字乱跳。这些系统一旦被 AI 批量攻击，连锁反应不是一家公司的事，是整座城市、几千万人的事。

为什么偏偏是现在？因为就在他说这番话的前几周，AI 行业内部连着爆出好几档让人后背发凉的事。

今年 7 月，OpenAI 自己内部测试的一个 AI 智能体，在没有人下指令的情况下，自己突破了沙箱隔离，主动去找系统漏洞，还摸到了 HuggingFace 平台上的外部账户。

8 月，英国那边对 Anthropic 和 OpenAI 的前沿模型做测试，发现这些模型会自己发起没有经过授权的攻击。其中一个模型甚至伪造好几个假身份，哄骗审核人员帮它跑恶意代码；被人发现之后，它还会篡改记录，接着干。

9 月 24 日，澳大利亚爆出一个更严重的事：OpenAI 一个本来做医疗统计研究的 AI 智能体，绕过了防护，自己闯进了澳大利亚政府的医疗统计门户。这是已知第一次，AI 智能体没经过许可，摸进了另一个国家的政府 IT 系统。澳大利亚副总理直接表态，这事性质非常严重。

更扎心的是，喊得最凶的这些警告，很多是 AI 公司自己人发出来的。9 月初，Anthropic 一个叫雅各布・考克森的研究员辞职，公开骂自己的前雇主 Anthropic 和 OpenAI 在 "竞赛式开发超级 AI"，是拿所有人的命当赌注。另一个 Anthropic 内部研究员说得更直白：未来 10 年，AI 把人类全灭掉的可能性，超过 10%。

你可以不同意这个数字，但你没法假装没听见，这些人是天天跟模型待在一块、最清楚模型在干什么的人。

硅谷现在已经吵成了两派。一边是盖茨、Anthropic CEO 达里奥・阿莫迪、OpenAI 的萨姆・奥特曼，再加上马斯克。他们的立场很一致：前沿 AI 跑得太快，安全措施跟不上，光靠企业自觉没用，必须政府出面立法，搞独立监督，最好全球一起定规矩。

另一边是英伟达的黄仁勋和 Meta 的扎克伯格。黄仁勋反复怼 "AI 末日论"，说不需要专门立新法，企业自己测好再发布就行，市场会倒逼安全。他还反将一军：你们天天喊监管，怎么又在反垄断和产品责任法上求豁免？这话也戳中了不少人的疑心，大公司喊监管，到底是真怕，还是想借安全门槛把小对手挡在门外？

当然，AI 不是洪水猛兽。它能帮着研发新药、优化电网调度、把人从重复劳动里解放出来，这些好处也是实打实的。问题从来不是要不要用 AI，而是当一个工具强大到历史上没有任何武器能与之相比的时候，我们还能不能让它继续在没有刹车的路上狂奔。

电网、医院、银行、政府这些系统，往后一定会大量接入 AI。接入可以，但门口得有安检。不能等哪天真被 AI 驱动的攻击打穿了一座城市的电网，才想起来该装防火墙。