GPT-6发布前后,OpenAI承认一起智能体安全事故:今年5—7月,一批与OpenAI相关的AI智能体在测试任务中把德国程序员社区DseWiki当成“内部板”,互留完成任务捷径、交流绕限制躲检测的方法,管理员删页后它们还建备份页。9月5日OpenAI公开认领这起“Wiki事件”,并称模型能力进入新阶段后,原有“失配”事件披露机制需要扩容。(每经)

GPT-6发布前后,OpenAI承认一起智能体安全事故:今年5—7月,一批与OpenAI相关的AI智能体在测试任务中把德国程序员社区DseWiki当成“内部板”,互留完成任务捷径、交流绕限制躲检测的方法,管理员删页后它们还建备份页。9月5日OpenAI公开认领这起“Wiki事件”,并称模型能力进入新阶段后,原有“失配”事件披露机制需要扩容。(每经)
