DC娱乐网

人工智能研究者、天使投资人郭涛则向记者表示,此事表面是产品交互设计疏漏,背后折射

人工智能研究者、天使投资人郭涛则向记者表示,此事表面是产品交互设计疏漏,背后折射出AI编程赛道普遍存在的合规伦理短板。在赛道高速扩张阶段,厂商优先迭代产品能力,把功能落地置于数据安全之前,许多产品的默认配置倾向于最大化获取本地项目数据,以降低AI读取代码的使用门槛,将数据选择权后置交给用户。

在郭涛看来,目前多数厂商并没有把最小必要原则前置到产品立项阶段,默认上传数据并非个案;同时行业缺少统一落地标准,对本地索引与云端上传的边界界定模糊,厂商自主裁量空间很大。该矛盾不会仅仅局限于单家企业,随着越来越多企业开发人员采用AI编程工具,若行业不主动规范产品默认策略,同类数据隐私争议还会持续爆发。
郭涛向澎湃新闻记者表示,未来一至两年,AI编程工具赛道最值得警惕的重大安全事件,并非单纯的代码泄露,而是借助编程智能体作为跳板入侵企业内部生产环境。AI编程工具深度对接企业代码仓库与内网开发环境,一旦权限管控失效,恶意指令便可驱动工具批量读取仓库密钥、配置文件,自动完成代码修改、提交部署,形成自动化攻击链路。

其次是供应链层面风险:大量企业复用AI生成组件,模型内置的隐性漏洞会通过开源代码快速扩散至成千上万企业系统,形成跨企业的群体性安全事故。不同于普通大模型对话内容泄露,编程智能体风险直接传导至生产业务,事件一旦爆发,造成的产业损失和影响范围将显著大于普通大模型安全事故。AI会成为人类社会的新威胁吗 AI的破坏力到底有多大 人工智能