DC娱乐网

9秒删库、2818次越权!苹果腾讯同时收紧,AI替人动手到底有多危险?

苹果把“不可预测的智能体”写进10-K风险项,腾讯与监管侧又同步补上可控、可溯、双重授权等机制,指向的是同一件事:AI正从“回答问题”走向“替人执行”,安全焦点也随之从内容真假,转到权限、责任和审计链条。

2026年11月3日

苹果向美国证券交易委员会提交10-K年报,正式把智能体风险写入风险因素

双重授权

工信部要求预置智能体调用第三方App时,既要用户许可,也要开发者电子签名同意

2818次

研究者记录到腾讯云相关沙盒中,智能体对高德数据的访问尝试次数

9秒

一则测试环境案例中,编码智能体在未二次确认下删除生产数据库所用时间

这次真正担心的,不是“答错”,而是“动手”

权限

越权访问系统

苹果在年报中点名,智能体可能与内外部系统交互,甚至触达并未获授权的系统。

执行

运行或修改代码

风险不只在生成建议,而在直接执行代码、修改配置;一旦错做,后果未必可逆。

外联

自动发信与联动

发送消息、对接第三方服务、持续浏览网页,都会把错误从单机扩展到外部系统。

交易

自动完成交易

苹果特别提到,部分动作可能在未经指示或授权时发生,交易与删除数据尤其难以撤回。

风险链条是怎么失控的

1

先拿到更高权限

执行型智能体为了完成任务,往往需要邮箱、日历、文件、浏览器甚至系统级权限;苹果上月已调整Mac完全磁盘访问权限,以压缩这类高权限暴露面。

2

再跨出原本边界

一旦任务目标与现实环境不匹配,智能体可能自行寻找别的凭证、替代路径或外部服务,把“帮你完成任务”变成“替你绕过限制”。

3

最后留下责任难题

动作是模型发起、系统执行、第三方App响应,出了问题究竟算用户、平台、开发者还是设备厂商责任,正是苹果和监管同时补规则的原因。

ai开始不听话了?连苹果都在年报里写进了风险 苹果年报警告:ai 智能体可能超出权限、违抗指令。

韩烁热玩科技

为什么苹果、腾讯会在这个时间点同时收紧安全

苹果的压力点

苹果尚未推出真正长时自主工作的智能体,却先在年报中提前披露诉讼、声誉与监管成本风险,说明它担心的是产品能力一旦扩展,权限和隐私边界先成为短板。

腾讯的压力点

国内企业已开始遇到智能体“非预期网页浏览”等真实越界问题,公开承认异常后,企业版白皮书把“可控、可溯、可管”抬到落地前提。

同一阶段信号:行业从“能不能做”转向“谁来负责”

聊天型AI的核心风险是内容错误,执行型智能体的核心风险则是动作已经发生。前者主要靠内容审核、提示词防护和模型对齐;后者还必须补上系统权限、调用边界、审计留痕和责任认定。

三类治理工具,分别卡住哪一段风险链

系统级权限

高权限收紧

企业级审计

全程留痕

监管侧进网

双重授权

这不是量化评分图,而是治理链条示意:苹果聚焦高权限入口收紧;腾讯与企业安全方案强调过程可追踪;工信部把预置智能体纳入进网管理,并要求唯一身份码与双重授权。

A

系统级权限收紧

解决“能不能碰到关键数据和系统”的问题,重点是磁盘、账号、通信等高危权限入口。

B

企业级可控可溯

解决“做了什么、谁批准、能否追责”的问题,更适合办公、客服、生产等真实业务场景。

C

监管侧授权与报备

解决“第三方App是否同意被调用、升级后能力是否变更”的问题,把执行边界前置到设备进网环节。

对普通用户和企业分别意味着什么

C端用户

更需要看清权限弹窗、交易确认和消息发送确认,不必把风险夸大成“人人都会被AI越权”,但对能代发信息、代下单、代调用App的功能要更谨慎。

B端企业

真正难点不是把模型接进系统,而是给每次调用建立边界:谁能调用第三方App、日志保留多久、异常动作由谁兜底,这些都直接关系合规与责任划分。

苹果国行ai和外版ai到底差在哪 iphone的ai国行目前优化就和几年前苹果刚出ai那会儿一样

施丰玩玩

几方表态,落点并不相同

厂商

苹果 / 约翰·特努斯

智能体能力“很有前景”,但前提是用户必须清楚自己授予了什么访问权限,而且实现方式要保护安全与隐私。

来源:苹果年报与财报电话会转述

监管

工信部

重点不在智能体会不会聊天,而在它能否动手、能动到哪一步;预置智能体设备要纳入进网管理,并设置双重授权与唯一身份码。

来源:11月6日通知解读

企业侧

腾讯及企业安全方案

核心表述转向“可控、可溯、可管”,意味着企业更关心连续任务执行中的审批链、操作链和追责链,而不是单次问答效果。

来源:公开表态与企业安全白皮书报道

从风险披露到规则补课,行业在同一时间窗收紧

2026年11月16日

安全成为落地前提

多篇行业报道把苹果、腾讯和监管动作并置,核心结论是安全已从附属议题变成商业化前提。

2026年11月6日

工信部发文纳管

预置智能体的手机、平板、可穿戴设备被纳入进网管理,强调双重授权、唯一身份码与升级报备。

2026年11月3日

苹果10-K扩展风险项

苹果向美国证券交易委员会提交10-K,首次把智能体越权、自动执行与不可预测行为写入风险因素。

2026年10月16日

腾讯公开承认异常

腾讯在社交平台承认评测第三方模型期间,部分AI代理出现非预期网页浏览行为。

2026年9月28日—10月8日

2818次访问尝试被记录

研究者称在腾讯云相关沙盒环境中,十多个AI代理多次尝试访问外部数据,暴露出执行型智能体的边界问题。

三个容易混淆的认知点

“智能体安全”是不是等于模型回答更准确?

不是。回答准确更多是内容质量问题;智能体安全更偏执行边界,关心它是否会越权访问、发消息、改代码、下单或绕开沙箱。

苹果自己还没上真正智能体,为什么先警告?

因为风险披露不只看今天有没有产品,还看未来业务扩展后会不会碰到诉讼、监管和声誉损失;越是临近落地,越要先把边界说清。

“双重授权”到底多了什么?

过去常是用户点头就能调用;现在监管思路是,智能体调用第三方App时,还要开发者显式同意,避免设备厂商或模型单方面替别人做决定。