最近Anthropic前研究员离职发长文警告,说大厂都在拼命搞超级AI。负责人承认内部真担心AI可能灭绝人类,概率估了10%。主要是超级智能能自我进化变超强,现在又完全没对齐方案。AI灭绝人类概率超10%

但网上也有人质疑这数字不太科学,可能是炒作想抬高估值或者设立个行业壁垒。感觉这就是大公司卷出来的焦虑，有点夸张了吧。