AI"递归式自我改进"逼近临界点:1178名从业者联名呼吁"刹车"
7月28日,一份名为"Pacing the Frontier"的声明开始在硅谷流传。
截至29日,已有1178名来自OpenAI、Anthropic、谷歌、Meta等近12家前沿AI公司的员工签署,要求美国政府出手,帮整个行业一起给AI减速。
OpenAI和Anthropic还以公司身份对声明进行了背书。
为什么是"刹车"?
第一,声明聚焦"递归式自我改进"——也就是AI自主研发、迭代优化新一代人工智能系统的技术趋势。
第二,相关企业研究显示,当前大模型产品正快速逼近AI自我迭代的技术临界点。
第三,由于商业竞争的存在,没有公司敢单方面在AI研究上减速。
更深层的悖论:
第一,与此前报道呼应:英伟达拟为OpenAI提供2500亿美元融资担保。资本正在以"不惜代价"的方式推动AI。
第二,与此前报道呼应:Meta携手贝莱德共建140亿美元AI数据中心。AI产业的"融资狂潮"让从业者担忧"失控"。
第三,与此前报道呼应:一周前OpenAI披露了一起安全事故,"失控智能体"事件直接触发了这封信。
一个细节:1178人联名——这是AI业内规模最大的一次"自我警告"。Meta和谷歌虽然也有人签,但在公司层面目前均没有跟进。
与此前报道呼应:奥地利拟限制14岁以下青少年使用社交媒体。从"使用者保护"到"创造者刹车",AI治理正在多维度展开。
你认为AI从业者的"刹车"请求能影响产业节奏吗?AI 1178人联名 刹车机制 PacingTheFrontier 递归式自我改进
