OpenAI为什么突然给AI踩刹车？
一个还没正式发布的 AI 模型，竟然让 OpenAI 主动暂停了部分内部活动。不是因为它“不够好用”，而是因为它的能力可能太强了。这个模型叫 Astra。OpenAI 在最新公告中表示，Astra 的智能体编程和网络安全能力出现明显提升。根据初步评估，他们目前无法排除它已经触及“Critical（关键级）”网络安全能力门槛。这个级别有多夸张？简单来说，它可能意味着 AI 能够：① 在经过严密防护的真实系统中寻找零日漏洞 ② 根据一个模糊目标，自主规划完整的网络攻击流程 ③ 在较少人工干预的情况下调用工具、执行代码并调整策略注意：OpenAI 的原话是“无法排除”，不是已经最终确认。但即使只是这种可能性，也足以让他们立刻收紧控制：把模型放进隔离测试环境限制网络和工具访问权限加强模型权重保护与加密监控高风险行为并及时中断暂停不符合新安全要求的内部活动邀请政府机构和外部安全组织参与测试这件事真正值得关注的地方，不是“Astra到底有多强”，而是AI行业正在进入一个新阶段：以前大家担心AI会不会胡说八道； 现在开发者开始担心，它会不会真的把危险操作执行出来。模型能力越强，给它的权限反而越要少。未来我们判断一个AI产品是否可靠，可能不能只看回答质量，还要看它能访问什么系统、调用什么工具，以及失控时有没有真正的“刹车”。你觉得能力达到这种程度的模型应该继续开放，还是应该先限制使用？话题：AI新闻 OpenAI 人工智能 网络安全 AI安全 科技前沿 文科生学AI Astr a