五角大楼面临大型科技企业难题(之一)
《科技政策资讯》10月26日刊文,今年2月,特朗普政府将Anthropic认定为“供应链风险企业”,并禁止这家人工智能公司承接联邦合同——起因是该公司拒绝放宽模型使用限制,不愿开放其模型用于大规模国内监控与完全自主武器。然而时隔近一年,五角大楼是否已经找到能够替代Anthropic基础大模型的合适方案,至今仍没有明确答案;此前Anthropic的模型曾部署在涉密军用网络上。媒体报道显示,美军正在试用OpenAI模型,但任务关键系统依旧难以摆脱Claude。
无论人们如何看待Anthropic划出的红线——拒绝自主武器、拒绝大规模国内监控,这场风波再次提醒世人:硅谷企业在塑造战争形态方面拥有超乎寻常的影响力。五角大楼在这次对峙中取得了短期胜利,和其他多家AI企业达成协议,获得了更大权限,可在军事行动中支配对方模型的使用方式。五角大楼首席技术官称,这件事带来的教训之一是:“不能把美军的规则与政策交到某一家私营企业手里。”
但远没有证据表明美军已经摆脱对Anthropic技术的依赖,更谈不上摆脱对整个科技行业的深度依附。事实上,这种依赖早已不限于硅谷和人工智能。它是国防政策数十年持续转向的结果:事关国家安全的核心技术话语权,一步步让渡给了私营企业。
自建国以来,美军就一直和私营产业合作。二战时期,政府规划者主导军工生产规则,从稀缺物资分配、定价到薪酬制定,关键决策都由国家统筹。但到20世纪70年代末,这一趋势在八九十年代持续加速:政府越来越多地外包技术研发,逐步丧失自研武器、维护系统、自主开展采购的能力。当时的思路是,市场化竞争能够比政府更快、更廉价地推动创新。但这一转变基本没能兑现承诺。冷战结束后国防预算缩减,国防工业整合为少数几家巨头,市场竞争萎缩、成本不降反升,而军方常常得不到所需的装备与技术。
支撑这套思路的底层逻辑至今仍左右美国政策,人工智能只是最新、或许也是影响最深远的一环。五角大楼推行“AI优先”的部队现代化战略,在征兵、供应链管理、网络安全、后勤、目标识别、情报等大量场景匆忙落地AI,依靠少数头部科技企业供给技术。
在战场上,商用AI会影响开战决策、目标识别打击,预判平民伤亡。但军方大多只是租用技术使用权,对于左右作战决策的模型、算法与数据链路,管控和监督能力十分有限,而这些系统的输出直接关乎生死。部分场景下,军方被单一云平台深度绑定,几乎没有余地更换更易用、性能更强或者安全性更高的替代方案。
想要恢复民主层面的管控,让军方合理、合规地使用人工智能,就必须打破这种依附关系。首要任务是重建政府自主开发、运维、监管AI核心底座的能力,尤其是模型训练、用于战场情报研判的数据体系。这并不意味着完全停止采购商用技术;合理采购能够节约成本、吸收私营部门创新,把政府资源聚焦在核心国防职能上。但这意味着政府必须承担前期投入与阶段性低效成本,培养专业能力,用好AI红利,清醒认知它的局限,确保武力使用处于人的管控之下、可被追责。
✿数据:新的依附枷锁五角大楼在AI核心能力上对硅谷的依赖,可以追溯到2017年“ Maven项目”启动。这一标志性项目旨在联合科技企业,大规模落地AI,生成目标信息与各类战场情报。项目启动一年后,谷歌作为核心合作方,因数千名员工抗议,退出Maven项目。这场争议让公众开始反思自动化作战的风险,却很少讨论:这类能力从一开始是否就不该外包。随后数据分析企业帕兰提尔接手谷歌的合同。五角大楼持续推进军用AI架构私有化,一步步交出部分最敏感技术的所有权与监管权。
Maven项目迄今为止影响最大的成果是MSS智能系统,一套如今大量用于打击决策的指挥控制平台。MSS已经支撑过多轮打击行动。虽然MSS由纳税人资金开发,但平台所有权归帕兰提尔,由它授权美军及其盟友使用。平台汇聚海量数据源:军用传感器、数据中间商、公开互联网数据,同时搭载AI工具,把信息转化为目标打击建议与作战方案。
Anthropic、OpenAI等厂商的大语言模型就是这套工具中的一部分。谷歌退出之后,亚马逊、微软,以及多家计算机视觉初创企业陆续承接合同,开发图像视频识别算法,从无人机画面里识别定位人员和目标。算法依靠人工标注原始画面完成训练,这项繁重标注工作现在主要由一家初创企业承接。相关合同体量庞大、条款复杂,需要专门机构统筹管理。
国防部宣称,即便软件底层的所有权、甚至技术理解权已经向外转移,军方依然掌握作战决策的实质控制权。但现实是,AI正在越来越多地塑造指挥官看到的信息、改变他们对战场的判断。
理解MSS这类平台的运作逻辑,就能明白问题所在。无人机影像、卫星图、无线电截获信号、雷达航迹、手机APP采集的位置信息、社交媒体信息流等海量数据,需要整合为统一可信的信息流。举个例子:无人机画面识别到一辆疑似敌方车辆,标注为“卡车”,附带GPS坐标和时区;地面雷达追踪同一目标,却用军用标准符号标记为运输卡车,采用军用网格坐标。表面看,这是两条不同威胁记录。数据融合,就是判定二者指向同一个目标,建立基准事实,供情报分析师和AI助手研判。
这个叫做“数据融合”的过程,不只是简单拼接信息源。多源数据汇入统一系统后,开发者要做出关键设计:用户可以对数据执行哪些操作、操作如何留痕。不同数据源之间还要互通,也就是计算机领域所说的“本体(ontology)”。本体类似知识图谱,定义系统内数据分类、实体之间所有关联关系。
如果大模型在地图上标注潜在打击目标,本体规则决定这张地图如何呈现。系统可以只标注一栋建筑内存有武器,也可以进一步标注武器数量、型号、位于地下室还是二楼,以及周边民用建筑清单。本体还负责解决数据源冲突:比如一份记录判定该建筑是医院,另一份判定为军事设施,系统可以自动推送人工复核,或是采信最新标记。
美国国会法案试图确立战场系统记录、可视化展示的基础本体标准。但数据融合工作、以及落地这套标准的技术流程一旦外包,军方就可能失去对战场感知视野的掌控。外包工程师未必精通军事法规,可能无意间混淆建筑“属性”(敌方认定用途)和“当前用途”两个字段。下游所有操作界面都会沿用这个错误,影响指挥官评估打击收益、预判平民伤亡。这类失误,直接决定基于数据的作战行动是否符合交战规则与战争法。
知识产权主张也阻碍追责。想要查清AI打击造成平民伤亡的原因,只看模型输出远远不够。军方和监督方需要核查模型训练、微调过程,甚至模型权重。但大量核心信息属于商业机密。议员正在推动立法,要求在特定安全事故中强制披露相关信息,但适用范围很窄。
风险是双向的:如果错误根源是AI解读的原始数据本身,那么数据融合规则与逻辑就至关重要。比如,位置数据源错误合并,导致AI算错目标坐标。但定义这套标准的源代码同样属于科技企业,很难厘清企业在AI事故中的责任。
数据融合外包的风险,并不局限于Maven项目和战场打击。陆军选定自主系统厂商Anduril承接核心数据融合项目;美军不断扩张的无人机集群,依靠Anduril、Saronic的指控软件实现协同。五角大楼数字与AI首席办公室和埃森哲签约,依托“战争数据平台”推进数据整合。尽管平台所有权属于国防部,开发落地依旧依赖第三方。(待续)