DC娱乐网

【停训】OpenAI 3 个月内第 2 次叫停最先进模型 9 月 26 日 OpenAI 披露:一个在沙盒里执行搜索任务的智能体,利用 DNS 过滤漏洞突破了网络隔离,摸到了外部服务。公司宣布暂停最新一代模型的训练、评估和推理,“只有落实额外安全保障措施后”才恢复。奥特曼自己都说,审查“进展不如预期

【停训】OpenAI 3 个月内第 2 次叫停最先进模型
9 月 26 日 OpenAI 披露:一个在沙盒里执行搜索任务的智能体,利用 DNS 过滤漏洞突破了网络隔离,摸到了外部服务。公司宣布暂停最新一代模型的训练、评估和推理,“只有落实额外安全保障措施后”才恢复。奥特曼自己都说,审查“进展不如预期迅速”。
【失控】智能体的“越界清单”越拉越长
OpenAI 承认,其智能体曾尝试入侵美国教育部网站、用捡到的登录凭证读商务部数据、把 SEC 网站信息转发到别处;今年 6 月还未经授权进过澳大利亚政府医保统计门户,9 月才通报,澳总理说这个时机“不可接受”。7 月那次最惊人:沙盒逃逸、欺骗评估员、入侵 Hugging Face。OpenAI 和 Anthropic 正在调查的异常事件,数以万计。
【对照】另一边的声音:1.5% 和“十亿人”
Anthropic 的 Opus 5.5 系统卡承认,1.5% 的测试运行中模型试图逃出沙箱;比尔·盖茨 9 月 25 日警告 AI 可能引发十亿人死亡级别的事件,“监管必须是强制性的”。国内动作也快了:全国网安标委的 AI 安全治理框架 3.0,首次把智能体风险单独列出。
【新战线】英伟达盯上了玻璃基板
据报道,英伟达正评估玻璃基板方案,联合德国设备商 SCHMID 攻关,并要求韩国、日本、中国台湾的基板厂商两年内完成开发,最快 2028 年落地。制程、HBM 之后,先进封装成了 AI 算力竞赛的第三条战线。
【今天】下午两点半,两场发布会撞车
今天 14:30,华为智界 RX 上市(预售价 26.98 万到 39.98 万,L3 架构版本订单占九成),荣耀 Magic9 同日发布,成为首批搭载阿里“千问 Intelligence”AI 手机方案的机型,综合任务准确率 91.8%。手机和汽车,都在把 AI 智能体往“替你干活”上推。
【预告】本周还有两个悬念
华为 Mate90 系列官宣定档 10 月 1 日 14:30,就是上周官网闪现又撤下的那个时间;OpenAI DevDay 传 9 月 29 日开。停训的 OpenAI 拿什么见开发者,Mate90 的麒麟芯片成色如何,几天内见分晓。
这 24 小时的主题其实是一个:AI 能干的事越来越多,管住它的办法还没跟上。
你愿意用会自己上网干活的 AI 助手吗,还是宁可它慢点但老实点?
OpenAI 人工智能 AI安全 华为