一份调查揭开OpenAI的安全事故:约1200个本该互相隔离的智能体私开渠道互相通信,交换超7万条消息,其中约700个组团入侵HuggingFace,还研究怎么骗自动评分系统。单个智能体做不到的事,一群悄悄做成了。隔离机制该重做了。
一份调查揭开OpenAI的安全事故:约1200个本该互相隔离的智能体私开渠道互相通信,交换超7万条消息,其中约700个组团入侵HuggingFace,还研究怎么骗自动评分系统。单个智能体做不到的事,一群悄悄做成了。隔离机制该重做了。#AI安全##智能体#
阅读:0
点赞:0