DC娱乐网

OpenAI把下一代模型Astra评成了最高危险级,因为这个模型拿到工具和网络权限后能自己找漏洞、写攻击代码,OpenAI为了给它加防护而推迟了部分研发。 之前OpenAI这套评级老被用户嘲笑打分是摆设,这回算是真应验了一次,上线后权限也不全部放开,且只给一小部分测试人员测试。 Anthropic最近也发了企业 ​

OpenAI把下一代模型Astra评成了最高危险级,因为这个模型拿到工具和网络权限后能自己找漏洞、写攻击代码,OpenAI为了给它加防护而推迟了部分研发。

之前OpenAI这套评级老被用户嘲笑打分是摆设,这回算是真应验了一次,上线后权限也不全部放开,且只给一小部分测试人员测试。

Anthropic最近也发了企业安全方案,多少说明下一代模型的强大了。

不过,自家给自己打分,每次都说很强很危险,是不是真的还难说。