OpenAI为什么主动公开Astra的风险？
一款新模型还没有正式推出，OpenAI 为什么要主动公布它可能存在的网络安全风险？
因为这类能力具有明显的双重用途。
它可以帮助防守方更快发现和修复漏洞，也可能让攻击者以更快速度、更大规模发起攻击。
OpenAI 表示，Astra 的初步测试结果已经强到无法排除 Critical 网络能力，因此在最终评估完成前，先按照更高风险等级部署安全措施。
其中包括隔离测试、限制网络和工具、加强模型权重保护、监测高风险行为，以及联合政府和安全机构进行评估。
这份公告并不是说 Astra 已经失控，而是在说明一个现实：
未来衡量AI模型，不能只看它有多聪明，还要看人类能否控制它的使用边界。
你更期待能力更强的AI，还是更担心它被错误使用？
人工智能讨论 AI安全 OpenAI Astra 科技思考 网络安全