【硅谷内部恐慌蔓延，盖茨直言 AI 风险已经迫近，足以造成十亿人死亡...】

比尔・盖茨在 NBC《与媒体见面》采访片段中抛出惊人判断：人工智能已经强大到，能被恶意使用者制造出造成十亿人死亡的重大事件。完整访谈将于 27 日播出。

他直言，人类历史上任何武器，都比不上心怀歹念之人搭配前沿 AI 带来的威胁。这不是科幻故事，而是硅谷内部越来越多人担忧的现实风险。

最近，AI 行业内部的不安已经公开化。Anthropic 员工雅各布・考克森放弃股权选择辞职，他曾供职于 OpenAI 与 Anthropic 两大头部实验室，公开指责企业争相研发超级 AI，是拿全人类的生命冒险。还有同机构研究员估算，未来十年 AI 导致人类灭绝的概率超过 10%。

这番内部发声，引爆行业讨论。Anthropic 首席执行官阿莫迪率先提议放缓 AI 研发，OpenAI 的奥特曼、马斯克等人也表示支持。但行业内意见并不统一，也有科技巨头认为不该人为限制技术创新。

盖茨本身曾是 AI 最积极的支持者，态度在今年夏天发生明显转变。8 月他发文提醒，不法分子可以借助 AI 攻击电网、医院、金融机构，发动网络袭击，批量伪造信息，制造大范围社会动荡。

核心矛盾很简单：只靠企业自我约束，根本不可靠。现在各大 AI 公司处在激烈竞速之中，比拼模型能力和上线速度。让企业自己给自己定安全标准，无异于运动员兼任裁判。市场竞争压力之下，技术突破往往会优先于风险防控。盖茨认为，监管不能自愿，必须由政府和执法力量介入，出台强制性的安全规则。

但要分清一点：盖茨所说的危险，并不是 AI 产生自主意识主动伤害人类。真正可怕的地方在于，AI 大幅降低了制造大规模破坏的门槛。

放在过去，想要瘫痪城市基础设施，发动大范围攻击，需要雄厚资金、顶尖技术团队，普通人根本没有机会。而 AI 把这套门槛抹平了。普通人借助 AI 工具，就能找到系统漏洞、批量生成虚假信息，撬动维系社会运转的基础。这种风险，远不是我们现在接触的 AI 诈骗、虚假视频所能比拟。一旦电力、供水、医疗系统接连崩溃，连锁灾难的后果难以想象。

AI 本身没有好坏之分，既能研发新药、提升生产效率，也能成为破坏力极强的工具。科技企业可以享受技术突破带来的收益，却无权独自决定这项技术的安全底线。

技术狂奔的时代，规则不能永远跟在事故后面补漏洞。留给人类搭建安全护栏的时间，已经不多。<转>