未来战争已至，自主人工智能操控俄罗斯无人机杀死了三位乌克兰平民
本文刊发在纽约时报，作者安德鲁·E·克雷默视从乌克兰南部扎波罗热报道。
年轻女子拼命逃命，但已经太迟了。
上个月，在乌克兰东南部城市扎波罗热，一架外形酷似航模飞机的小型俄罗斯无人机从空中俯冲而下。无人机试图飞向一座加油站时撞上一堵墙，随后爆炸，弹片四射，造成19岁的大学生特季扬娜·布比涅茨和另外两人死亡。
俄罗斯空袭已经造成数千名乌克兰平民死亡，但这次出现了新情况。无人机专家、乌克兰军方指挥官，以及检查这次致命袭击和扎波罗热其他袭击现场无人机残骸的法医团队表示，杀死他们的无人机并不是由人类飞手操控，而是由一套实验性人工智能系统引导。
人类操作人员事先设定无人机飞向一座特定加油站，但在接近目标后，无人机自行选择了最后的具体攻击目标，最可能是丙烷储罐。
专家和军方官员表示，这套系统接受过相关训练，能够识别这类储罐并发动攻击。
这是乌克兰战争中人们长期担忧的一种发展方向。眼前出现的情形，预示着一种反乌托邦式的未来：杀人机器人在空中游荡，自行作出生死决定，而攻击目标则被简化成一个个数据点。
扎波罗热防空部队指挥官谢尔希·米纳耶夫上校说：“这是整个世界都面临的风险。再过几年，我们可能就生活在《终结者》的电影里了。这不是开玩笑。机器正在自行决定发动攻击。”
专家和军方官员表示，对这次袭击以及扎波罗热其他袭击留下的残骸进行分析后发现，这些无人机装有英伟达公开销售的小型计算机，目标选择就是由这些机载计算机完成。
乌克兰防空指挥官注意到，这些无人机内部装有英伟达模块，同时机身没有天线，因此推断武器可能由自主人工智能系统引导。进一步调查证实了这一判断。
自主人工智能系统可以利用数千张图片进行训练，从而识别“河流”“军用卡车”或“人”等不同类别的目标。具备自主目标选择能力的无人机能够通过摄像头搜寻这些目标，精度甚至可以超过人类飞手。但反对这类武器的人认为，没有人类介入，无人机可能更容易发生误判，也更容易违反战争法，例如无法区分无辜平民和战斗人员。
美国战略与国际问题研究中心（CSIS）瓦德瓦尼人工智能中心高级研究员卡捷琳娜·邦达尔表示，7月6日加油站袭击中使用自主目标选择人工智能系统，可能是目前第一起有文件记录的俄罗斯无人机利用这类系统造成平民死亡的事件。
她说，发现英伟达模块，是俄罗斯正在测试自主人工智能技术的“最有力证据”。
泽连斯基的一名顾问此前曾在社交媒体上表示，俄罗斯正在测试自主目标选择人工智能系统。
为海外华人提供可靠的信息和分析。如果想看更多内容与即时更新，可以在 Bluesky、Telegram、X 搜索「causmoney」；深度分析和评论也可以直接搜索「caus.com」。
在完全自主无人机出现之前，俄罗斯和乌克兰都已经在多种无人机中使用人工智能。但早期型号只在所谓的“最后一公里”阶段使用人工智能，也就是远程操控的飞手先选定目标后，人工智能只负责攻击的最后阶段。完全自主的人工智能系统则把人类从最后的目标选择环节中彻底移除。
乌克兰官员表示，扎波罗热袭击中发现的英伟达芯片没有加密，因此调查人员能够看到上传至模块中的地形图像。无人机利用这些图像识别地面视觉标志，从而沿预定路线飞行。
调查人员还查看了程序代码，并从中发现无人机接受过哪些目标识别和攻击训练，其中包括丙烷储罐。
早期无人机通常有两种操作方式。一种由人类操作人员通过无线电信号或光纤电缆控制，另一种则提前输入目标坐标。随着无人机成为乌克兰战场上的主要武器，无人机飞手本身也成了重点打击对象。
相比之下，由自主人工智能系统引导的无人机不需要人类飞手，而且精度可能高于仅按照预设坐标飞行的弹药。
当地防空官员表示，俄罗斯在扎波罗热测试自主无人机时，一直把加油站内的油泵、丙烷储罐等民用设施作为目标，同时也攻击军事征兵中心。目前还不清楚俄罗斯为什么选择这些目标进行测试。
乌克兰哈尔科夫航空学院无人机专家瓦季姆·库什尼科夫说，造成三名平民死亡的无人机是“一种预先编程的工具，在虚拟现实环境中接受训练，用来追踪特定物体”。
传统软件按照程序员编写的一系列具体步骤运行，而人工智能系统会从海量数据中寻找规律，并据此形成自己的判断规则，这一过程被称为机器学习。
这样一来，人工智能能够处理事先没有预料到的情况，但与此同时，也没人能够完全预测系统下一步会做什么。
人权组织和国际红十字会强烈反对在没有人类参与决策的情况下使用人工智能武器。这些组织认为，自主武器实际上等于让机器人自行解释国际法，并决定战争中的哪些目标可以合法攻击。
但也有专家提出相反观点，认为未来的武器事实上应当强制配备人工智能系统。他们认为，这类武器反而更加安全，因为武器在发动攻击前至少能够作出判断，哪怕判断并非每次都完全正确。
相比之下，无制导航空炸弹或普通炮弹根本无法看到最终会击中什么，只会按照弹道落下。
扎波罗热州军事行政长官、城市防空部队指挥官以及当天值勤的防空小组表示，发动致命袭击的那架无人机属于一个大约由六架无人机组成的编队。所有无人机都没有发出无线电信号，同时还具备其他与俄罗斯自主人工智能测试相符的特征，例如以集群方式分批发射。
乌克兰官员表示，俄罗斯测试的一些人工智能无人机会在撞击目标时爆炸，但另一些没有，因此能够较完整地保存下来。乌克兰方面向《纽约时报》记者展示了两架这类无人机的残骸。《纽约时报》拍摄了无人机内部的英伟达计算模块，并把照片发给英伟达。
英伟达确认，照片中显示的是Jetson Orin小型计算机。这类模块售价仅几百美元，目前已经在多种俄罗斯武器中被发现。
英伟达在声明中表示，这款小型计算机属于“面向学生、开发者和创业公司销售，可用于多种有益用途的消费级产品”。
英伟达在许多国家销售这款计算机，但不在俄罗斯。不过，公司表示，这款产品通过经销商渠道很容易买到。
乌克兰也测试过自主目标选择人工智能系统。最近被免职的国防部长米哈伊洛·费多罗夫7月底接受《纽约时报》采访时表示，过去几个月，乌克兰曾在俄罗斯占领的克里米亚测试一套完全自主的人工智能系统。费多罗夫说，这些设备攻击了燃料储存设施和军事装备，没有造成平民死亡。
扎波罗热袭击中使用的无人机没有天线，因此无法把测试数据传回俄罗斯方面。不过，俄军经常派出侦察无人机记录袭击过程。外界也认为，扎波罗热存在俄罗斯间谍，他们会向俄方报告战场毁伤评估结果。
仅仅没有天线，并不足以证明无人机具备自主目标选择能力。无人机也可能事先设定飞行路线，再利用飞机自动驾驶系统几十年来一直使用的计算机算法完成飞行。但如果只是这种无人机，就没有必要安装英伟达芯片。
乌克兰防空专家表示，俄罗斯5月开始试飞由人工智能引导的“莫尔尼亚”无人机。这是一种大规模生产的固定翼无人机。更早几个月，俄罗斯已经开始在另一种固定翼无人机V2U上测试自主目标选择系统。不过，V2U的一部分测试仍然只把人工智能用于攻击的“最后一公里”。
扎波罗热距离前线只有约14.5公里。当地一些居民接受采访时说，一想到有机器在城市上空嗡嗡飞行，然后自行决定杀死谁，就让人不寒而栗。
但乌克兰城市多年来一直遭受猛烈轰炸，即使技术没有这么先进的无人机，也早已改变了当地居民的生活。
拦截无人机是应对无人机威胁的一种办法。这类无人机目前仍由人类飞手操控，而这些男女飞手已经成为当地人眼中的英雄。另一种办法则是在道路上方架设防无人机网。扎波罗热及周边地区已经有约386公里道路被这类防护网覆盖。
伪装也是一种防御方式。例如，加油站会在丙烷储罐周围以各种不规则角度架设塑料薄膜，希望借此欺骗人工智能图像识别系统。
为海外华人提供可靠的信息和分析。如果想看更多内容与即时更新，可以在 Bluesky、Telegram、X 搜索「causmoney」；深度分析和评论也可以直接搜索「caus.com」。
7月6日，装载炸药的无人机冲向加油站前不久，一群人已经听到成批无人机来袭时产生的爆炸声，于是挤在附近一栋公寓楼的墙边躲避。
加油站工作人员奥克萨娜·伊申科当时就站在布比涅茨身边。伊申科回忆说：“她吓得一直在哭。”
随后，人群中有人开始大喊：“飞机！飞机！”
伊申科说，一架无人机正朝他们飞来。布比涅茨和另外几个人立即逃跑，向停车场不同方向散开。无人机没能绕过公寓楼，最终在抵达目标之前爆炸。
布比涅茨当时就读于扎波罗热国立大学会计专业。她倒在路面上一动不动，鼻子里流出鲜血。她的教授特季扬娜·梅利霍娃说，布比涅茨被送到医院后被宣告死亡。另外两名死者是41岁的奥列克西·斯维林和48岁的罗曼·卡尔皮，两人后来因伤势过重死亡。
扎波罗热防空部队指挥官米纳耶夫上校谈到俄罗斯时说：“他们正在训练这项技术。”
他接着说，人工智能很好用，但还没有做到完美，“他们正在寻找系统中的错误，然后会把这些错误修掉。”
