今天X上的一个系列热帖，AI巨头已辞职前员工猛烈抨击AI大公司，说他们创造的东西可能导致人类灭绝。

发帖人叫Jacob Coxon，曾经是Anthropic研究员，这人不是外围评论员，过去三年先后在OpenAI和Anthropic做大模型预训练研究，算是亲手参与前沿AI研发的人。

他帖子的意思其实很简单：他觉得OpenAI和Anthropic现在都在往“能够自我改进的超级智能”冲，而且速度太快了。

他说，不要低估这项技术。按照现在的发展速度，未来的AI可能在编程、科研、网络攻击等领域超过人类，并进一步获得现实世界里的资源和影响力。

更值得注意的是他对AI公司内部的描述。

Coxon说，真正做前沿AI的人里面，确实有人认真担心AI最终可能导致人类灭绝，甚至把本世纪20年代末都视为可能出现重大风险的时间窗口。他强调，这不是对外营销时故意制造噱头，反而是很多人在公开场合会把话说得比较克制，私下更加担忧。

那问题来了：既然他们自己都担心，为什么还拼命往前冲？

Coxon给出的答案挺有意思。

按照他的观察，OpenAI内部不少人并没有真正把这种风险上升到“文明级风险”来理解；Anthropic则恰恰相反，很多人很清楚风险，但他们陷进了另一套逻辑——“我们不做，别人也会做；既然早晚有人做到，那还不如我们先做到。”

这其实就是很典型的军备竞赛困境。每个人都觉得慢一点可能更安全，但又都怕自己慢下来以后，对手先跑到终点。

所以Coxon认为，真正的问题已经不只是“AI安全技术做得够不够好”，而是人类到底要不要允许几家私人公司以商业竞争的方式，决定什么时候跨过超级智能这道门槛。

他甚至主张美国几家主要AI实验室应该协调研发节奏，必要时可以考虑暂时停止进一步提升前沿模型能力。

《华尔街日报》等媒体报道了此事，评论区也表达了对现有技术发展的普遍担忧，美国现在民间有股不小的舆论本来就在强烈反对当下AI科技的发展，现在这系列帖子一出，可以说是火上浇油了。

海外新鲜事