中美今年春天险些爆发一场冲突，AI对美军做了惊人的情报误导。这是CNN周五独家报道披露的令人脊背发凉的机密信息。CNN援引多名匿名人士说，今年春天美伊战争期间，一份情报在美国军方内部传阅：一艘在中东的中国船只正在运输核武器计划的部件。美军迅速行动，制定了拦截计划，武装人员准备登船，军用飞机已在空中盘旋。

就在行动开始前不久，官员深入查证后发现，这份由特种作战司令部一名分析员撰写的报告是AI生成的，聊天机器人错误识别了船只所载货物。消息人士称，这份报告“完全是假的”，但“几乎引发了一场战争”。

老胡想说，如果美国在公海上拦截中国船只并强行登船检查，这是非常严重的事件。中方船只很可能拒绝。这当中存在现场激烈摩擦的风险，同时存在双方彼此误判、升级冲突的更大风险。

在美国军方和情报界，官员们正努力将AI融入到工作的几乎方方面面。今年1月，美国防部长赫格塞思发布了国防部的“人工智能加速战略”，目的是“通过将美国世界领先的人工智能模型直接交给国防部所有级别的300万文职和军事人员，从而在整个国防部内普及人工智能实验和转型”。但这项工作分散进行，不同部门使用不同工具、不同安全标准，没有统一标准来验证这些工具生成的信息。

据一位消息人士称，这种AI“幻觉”并非情报界的孤立事件，自这些工具在政府部门普及以来屡见不鲜。对于一些资深情报官员来说，AI给分析人员带来了压力，要求他们更快地生成和传播情报，这增加了出错的可能性。多位消息人士称，尤其是年轻的分析人员，他们对这些工具非常熟悉，更容易不加批判地信任它们。“人工智能会让你更快地产生糟糕的想法，”一位消息人士说。

近段时间，美国AI界多次拉响了AI可能失控的警报，而CNN最新披露的这件事，无疑会增加人们对AI可能以人类意想不到的方式搞出乱子的担忧。

大家知道，人类最尖端的技术往往最快应用到军事领域，无论是核能技术还是火箭技术，无不如此。AI一边发展，一边已在乌克兰战争中被投入使用，其中就包括小型自主攻击型无人机，把终端制导和选择攻击目标交给无人机自身。这无疑增加了无人机错误攻击目标、滥杀无辜的风险，而且那样的情况肯定已经发生过，只是没有被充分报道出来。

在战术层面和具体战斗中使用AI，危害相对有限。但我认为，美国肯定还会用AI来加强战略层面的军事行动。美国作为AI研究最前沿的国家，也是现在拥有算力最大的国家，其实施军事攻击的意愿和能力都超过其他国家。但是AI这个东西，水位越高，风险越大。

AI风险的高危地区首先是美国。或许可以这样说，如果人类因为AI而发生真实灾难，它最大的可能将发生在美国，或者由美国原因引发。没人能够预想AI灾难发生的具体情形，但是可以这样预见：那样的灾难不是曾在实验室或工厂里模拟过的，它更可能是出人意料的，是很难根除的AI“幻觉”，以及大量偶然因素，包括美国的某种社会内部或对外敌意凑到一起，综合促成的。

像CNN披露的这个案例中，那个聊天机器人将开源情报与政府掌握的秘密信号情报融合在一起，由特种作战司令部的一名分析员使用并生成了错误的情报报告。整个美国军中对中国怀有强烈敌意和想当然的思维方式，从而顺着AI的指引行动了起来，幸好在最后一刻被发现。

美国真的是这个世界巨大麻烦，它提供了科技前沿，以及很多动力，但它也制造了其他国家制造不了的危险和混乱。它为了霸权，自我约束的意愿很低。对于伤害外部世界，很多时候它不太在乎，为了自己的利益，不惜以外界及全球的公共损失为代价。

如果在一个旧世界工业化的底盘上发酵那些危害，是一回事；但现在，AI出现了，它发展极快，情况已是另一回事。美国如果按照以往的做事逻辑，将AI大规模应用到国家安全领域，将AI能力不断迭代，并且将缺少可控性的这种能力用于对外军事行动，那将对人类和平构成前所未有的紧迫风险。

想想看吧，AI能够指挥美国海军在公海上拦截核大国中国的一艘货轮，美军的行动近乎开启，军用飞机已经升空，这真是危险至极。人类要避免下一次这样的危险，必须约束住美国。而要约束美国，目前最现实的可能是华盛顿因为对风险的恐惧而做出自我约束。

问题是美国会那样做吗？看人类的运气吧。