原标题：万字长文：俄乌战争中AI和自主技术的使用及其对战略稳定的影响
据报道，自俄罗斯全面对乌行动以来，人工智能已被用于分析很多类型的数据，以加强决策和确定目标、处理敌方通信、面部识别技术和网络防御等等。本报告利用公开信息和学术研究，调查了乌克兰战争中人工智能的使用情况，并评估了这些系统和能力对冲突升级和战略稳定的潜在影响。虽然AI在加强战场信息处理方面发挥了及其重要的作用，但很难估计这些技术是否被大规模使用以及产生了什么影响。虽然就目前的形式而言，人工智能的使用对冲突升级风险的影响有限，但随着更广泛的部署，特别是未经测试的系统的部署，这样的一种情况可能会发生明显的变化，这凸显了建立信任措施的价值，以最大限度地减少意外升级的风险。
人工智能（AI）和自主系统在乌克兰战争中的作用引起了媒体和追踪未来技术在当今战争中应用情况的分析人士的极大关注。乌克兰在美国、北大西洋公约组织（NATO）其他合作伙伴以及众多技术公司的支援下，正在利用人工智能一直更新对战场的了解，支持决策，并在情报和行动方面获得优势。
据报道，自 2022 年 2 月俄罗斯全面对乌行动以来，人工智能还被部署在无人机上，用于收集情报、实施打击和处理敌方战场通信，如面部识别技术、网络防御等。近几个月来，有关战场上的人工智能的报道与有关生成式AI系统取得突破的广泛新闻报道交织在一起，给人造成了一种技术无处不在的印象。然而，要仔细评估这一话题，就必须承认，AI是一项相对较新的技术，在乌克兰战争之前就没有在战场上部署过。因此，在这场冲突中部署人工智能的规模和性质必然是前所未有的。不过，很难评估这些应用和能力是仅在少数情况下使用，还是被广泛部署。根据公开资料，我们也不可能知道AI和自主技术是否被用于机密任务和使命，是哪种类型的，效果如何。
因此，得出乌克兰或俄罗斯军队正在大规模用AI的结论是不正确的，至少是不成熟的。相反，在乌克兰战争中用AI和自主技术更有可能仅限于某些使用案例、任务和条件。乌克兰已经动员了其令人印象深刻的 IT 工人和软件工程师群体来支持战争，而且该国的许多（如果不是大多数）无人机公司和其他人工智能初创企业正在与前线的军事单元密切合作。然而，更先进的能力--如利用人工智能收集、融合、分析和利用不同类型的商业和机密数据以加强决策和指导目标--主要是由驻扎在乌克兰境外的美国和盟军开发和部署的。这些先进能力是由私营公司实现的，它们向乌克兰及其盟国提供数据、设备和技术诀窍，以打击俄罗斯军队，同时获得作战经验和战场数据，以测试和完善其产品。
尽管乌克兰战争展示了新技术如何实时塑造战场，但它也凸显了一个长期趋势，即世界各地的军队都在加快对AI和自主技术研发的投资。这些领域的进步有望降低部署部队的风险，最大限度地减轻作战人员的认知和体力负担，并显著提高信息处理、决策和行动的速度，以及其他优势。然而，这种技术突破以及在有争议的环境中使用这些应用和系统也可能伴随着风险和代价--从使用致命武力的责任伦理问题到脆弱和不透明系统的意外行为。
在人工智能和自主技术取得技术进步的同时，致力于研究这些系统和能力对国际安全、战略稳定和冲突动态的潜在影响的研究也在迅速增长。有关在乌克兰战争中使用人工智能和自主技术的报告虽然远不够全面，但我们可以对这些文献提出的一些假设进行评估。因此，本章的其余部分将分四个部分进行。第一部分回顾了关于人工智能和自主技术对战略稳定和冲突动态的潜在影响的一些现有论点。然后，第二节利用公开资料，简要概述了乌克兰战争中人工智能和自主技术的使用情况。下一节探讨了人工智能和自主技术在战争中的使用可能如何影响从常规战争升级到使用核武器以及冲突蔓延到其他各方的风险。最后一节评估了人工智能和自主技术在当前俄乌战争之后可能如何影响美俄之间的战略稳定，特别侧重于建立信任措施在最大限度地降低意外升级风险方面的潜在作用。
有关技术与国际安全的研究概述了人工智能和自主技术融入军事系统和任务可能影响战略稳定、核风险以及冲突发起和升级的各种方式。以下讨论重点介绍了其中的一些工作，但并未对这一迅速扩展的研究领域进行详尽的回顾。
在有关无人机扩散如何影响国际安全的文献基础上，一些学者认为，使用自主能力日益增强的无人驾驶系统可能会导致外交决策中的冒险主义或侵略行为。部署军事力量不可避免地要承担人员和物质损失、经济衰退和社会动荡的风险，其中任何一种风险都可能使公众舆论转向反对现任领导人，并可能导致他们下台。另一方面，使用甚至损失自主系统的政治代价要低于人员伤亡。因此，有学者警告说，如果认为出于军事目的部署自主系统的政治成本较低，领导人可能会更倾向于挑起冲突。还有人认为，这种政治成本较低的观念不仅可能使冲突更容易开始，也可能使冲突更难结束，特别是在城市战争中。这些技术向更多国家和非国家行为者的扩散很可能会增加冲突的风险，并在整个国际体系中扩散不稳定性。
另一组论点集中在人工智能和自主技术的使用如何可能增加故意、疏忽或意外升级的风险--无论是从危机升级到冲突，还是从常规对抗升级到核对抗--原因是误解、误判或意外。一些论点更具体地关注人工智能与核武器之间的联系，研究如何在整个核威慑架构中利用人工智能的进步--从早期预警、情报、监视和侦察到指挥与控制，再到核武器运载系统。如今，人工智能技术仍然过于脆弱，容易受到攻击，有核国家无法将核指挥与控制功能，特别是导弹发射决策权委托给人工智能。然而，一些学者认为，随着技术的进步，对保持先发优势或确保报复的担忧可能会促使各国（尤其是俄罗斯）启动全自动核指挥与控制系统（正如苏联在冷战期间所做的）。除指挥与控制外，研究人员还认为，自主系统的改进，特别是能够定位和跟踪对手潜艇的水下航行器的改进，会增加核运载系统的脆弱性，进而破坏战略稳定和威慑。
另一个研究领域是调查人工智能信息战的不稳定影响。历史上一直存在宣传和造谣活动。但直到最近，这些活动的每个阶段通常都有人类参与--开发和生成引人入胜的内容、确定和培养目标受众、创建社交媒体档案和渠道以传播和放大制造的信息。然而，人工智能和大型语言模型的进步，特别是通过内容创建和虚假信息活动执行过程的自动化，可以降低宣传成本。这为更多不一样的行为者发起虚假信息宣传活动打开了大门，同时也为覆盖大量受众的高度可扩展的宣传活动创造了潜力。最近在大型语言模型（如 ChatGPT）方面取得的进展也使得生成复杂的、针对特定语境的信息成为可能，这些信息可能会与目标受众产生更强烈的共鸣，并使影响力行动更难被发现和摧毁。
人工智能支持的深度伪造技术是另一个值得关注的领域，它不仅适用于虚假信息和宣传，也适用于军事和情报行动。在无数潜在的场景中，适时部署令人信服的深度伪造技术可能会破坏战场上士兵之间的团结和凝聚力，削弱公众对军事任务的支持，加深社会分歧，分裂盟友，导致对民主机构失去信任，并塑造有利于侵略者的信息环境。减少误导性和虚假内容传播的努力已经落后；研究表明，即使虚假信息被揭穿，虚假新闻也比准确报道或为驳斥虚假报道而发布的更正传播得 更远、更快、更深、更广。
最后，关于AI和自主技术的进步如何影响网络战的文献不断涌现，有时还考虑到升级的可能性。例如，一些研究人员认为，将人工智能，或者更准确地说，将基于机器学习的自动化整合到网络行动中，有可能 提高网络行动的隐蔽性，使恶意代码能够更加独立于人类行动。这些发展可能会掩盖犯罪者的身份，使抵御入侵和网络攻击变得更加困难。攻击责任归属难度的增加反过来又会使国家和非国家行为者在网络领域更加胆大妄为，有可能导致网络冲突加剧、外交危机，甚至破坏现实世界的稳定。
同时，也有学者提出，人工智能和自主技术的特点和潜在用途可以降低冲突引发或升级的风险，增强战略稳定性。在引发冲突方面，除非各国认为自己能够获胜，而且对手的军事能力不如自己，否则很少会发动战争。采用能提高决策和行动速度的人工智能技术，再加上武器系统中能增强杀伤力的自主功能，都能彰显军事实力和有效性；这种能力反过来又能阻止潜在的侵略者，尤其是在他们不具备同样能力的情况下，并增强威慑力。
威慑的基础是可信的致命武力威胁。有鉴于此，一些学者认为，将人类部分或完全排除在攻击目标的决策之外，可以通过发出报复是肯定的信号来加强威慑。此外，无人驾驶系统中更高的自主性和人工智能大大扩展了在被拒绝、敌对和恶劣环境中的进入和到达能力，包括在潜在对手和有争议空域附近的反进入或区域拒绝环境中的行动。这还可以通过提高态势感知和加强预警机制来增强威慑力。
关于升级动态，其他人指出，与士兵伤亡事件相比，国家不太可能对受损或被毁的自动驾驶车辆进行报复或升级。值得注意的是，这一论点与前述观点形成鲜明对比，前者认为部署和失去自主系统的政治成本较低，会促使领导人做出激进的外交政策决定，增加冲突风险。因此，关于人工智能和自主技术对安全、稳定和冲突的潜在影响的争论仍在继续，提出了广泛的观点，这些观点有时相互矛盾。
一些专家认为，由于人工智能不受愤怒、仇恨或疲劳等人类情绪的影响，因此不太可能做出情绪化或非理性的决定，从而导致危险甚至灾难性的结果。加速情报处理、改进规划和提高战场态势感知能力的人工智能应用还能更精确、更明智地使用武力，并有助于降低平民伤亡和附带损害的风险，从而避免战争升级。22 当然，关于人工智能支持的精确战争在提高对战争法的遵守程度方面的潜力的这些论点是以交战各方首先有这样做的政治意愿为前提的。
归根结底，人工智能和自主技术对国际安全、战略稳定和冲突态势的影响与其他因素--其他先进武器、发生此类创新的政治制度的性质、计划使用这些技术的军队的组织文化、这些技术如何相互影响等--密切相关。由于人工智能尚未在战场上广泛部署或在军事组织中大规模应用，其潜在影响仍有待商榷。在乌克兰战争中使用人工智能和自主技术提供了一个机会，可借以评估上述一些假设，并初步了解这些技术在现代战争中的作用。
尽管从公开来源的信息中可以看出，乌克兰战争中人工智能和自主技术的使用仅限于某些任务和使用案例，但其程度却是前所未有的。据报道，乌克兰部队和（在较小程度上）俄罗斯部队都使用了具有自主功能的无人机和闲逛弹药。商业公司向乌克兰提供了人工智能技术，用于分析和融合不同类型的机密、商业和开源数据，以增强战场态势感知和识别目标，还提供了处理敌方战场通信和信息的软件。与此同时，俄罗斯行动者也利用人工智能加强信息行动，扩大虚假信息活动的规模，尽管效果有限。
以下分析存在一些局限性。首先，讨论中的几个例子并不清楚特定系统、平台或行动是否确实依赖于人工智能。这反映了公开信息的局限性；对什么是人工智能、什么不是人工智能缺乏共识；遥控系统经常与自主系统交替讨论；以及在无法访问特定系统软件的情况下，无法确定是否存在人工智能能力。本分析报告还避免推断人工智能的规模及其对执行军事行动和其他任务的总体影响。这是因为很难评估这些应用和能力是在少数场合使用还是广泛部署，也很难评估人工智能和自主技术是否在机密环境中使用以及使用的类型和效果。总之，下文并不打算详尽回顾俄罗斯和乌克兰在整个战争期间部署的人工智能和自主武器及系统。相反，它对相关能力进行了举例说明，以说明新兴技术在战场上不断演变的作用。
自战争爆发以来，乌克兰和俄罗斯都在广泛使用无人驾驶航空系统执行各种任务，包括情报、监视、侦察和打击。它们既被部署执行独立任务，也被纳入更先进的联合武器行动。无人驾驶飞行器（UAV）的视频也被用于信息行动，在各种社交媒体平台上展示了这些武器的精确性和毁灭性效果。几十年来，包括武装无人机在内的无人机一直部署在世界各地的战场上。但近年来，商用无人机技术有了长足发展，同时武装无人机市场也扩大到土耳其和伊朗等国家，加入了美国、中国和以色列等更成熟的无人机制造商的顶级行列。这些发展反过来又导致该技术向规模较小、不太先进的军队和非国家行为者扩散。虽然如今大多数无人机都是遥控操作的，包括在乌克兰战争中使用的无人机，但跟踪无人机操作的演变可以让我们了解更先进的自主系统可能会如何影响未来冲突的进行和轨迹。
乌克兰在使用军用无人机的同时，还使用了一系列民用和商用无人机，在单元层面提供情报、监视和侦察（ISR）能力，接收有关俄罗斯部队位置和动向的信息，为确定目标提供依据，并加强各级军事规划。据报道，乌克兰军用无人机武库包括用于监视和侦察的 愤怒、旁观者、列雷卡、惩罚者 和 PD-1 无人机等系统。
在战争的头几个月，乌克兰使用土耳其 Bayraktar TB2 无人机的情况备受关注--这是一种中空长航时无人机，航程可达 300 公里，可飞行 27 小时，最多可携带四枚激光制导弹药。TB2 是遥控操作的，但它被宣传为可以自主起飞、巡航和着陆；不过这种能力可能更类似于自动驾驶仪或预编程序的自动化，而不是无需人为控制的自主和实时机器决策。一些专家起初对这种无人机的潜在作用持怀疑态度，因为 Bayraktar TB2 型无人机体积大、飞行高度低且由无线电控制，相对容易成为分层防空系统和电子战能力的目标。然而，据报道 TB2 在摧毁俄罗斯地对空导弹、打击弹药库、瞄准补给线和武装车队，甚至帮助击沉俄罗斯黑海舰队旗舰 莫斯科号 方面发挥了巨大作用。
乌克兰武装部队还在使用 弹簧刀战术 等闲逛弹药或 神风特攻队 无人机，这些无人机是美国最早提供给乌克兰的一些无人驾驶航空系统。这些小型爆炸式无人机的好处是便于携带，可以从任何地方发射，飞到战场上空，一旦锁定目标，就可以俯冲打击车辆或士兵群体，精确度高，附带损害相对有限。据报道，乌克兰军方还使用了波兰制造的沃玛特（Warmate）隐蔽弹药。美国制造的 弹簧刀（Switchblades）和波兰制造的 沃玛特（Warmate）徘徊弹药都需要人类通过实时视频来确定目标，不过据 弹簧刀 的制造商称，如今已经有了自主部署这种武器的技术。除 弹簧刀 外，美国还向乌克兰提供了 凤凰幽灵 无人机，这是一种新型闲逛弹药，其具体性能尚未披露。
乌克兰能够有效地使用无人机打击价值更高的俄罗斯目标，这一事实凸显了俄罗斯防空系统的失败，尤其是在战争初期，这也为美军发展反无人机概念、技术和行动提出了重要问题。尽管无人机非常重要，但其损耗率却极高。据俄空局的一份报告估计，2022 年 2 月至 7 月间使用的所有无人机中约有 90% 被摧毁，只有约三分之一的无人机任务可以说是达到目标的。最近的计算表明，由于俄罗斯的电子战能力比战争初期有了明显提高，乌克兰的无人机损失量每月约为 10,000 架。
如前所述，乌克兰战争中使用的大多数无人机都是遥控操作的。尽管如此，2022 年 7 月，波兰一家新闻机构报道称，与乌克兰军方合作的乌克兰软件开发人员已经开发出一种人工智能图像分类器，能够识别隐藏在伪装中的军用车辆，并将其搭载在武装无人机上使用。虽然打击已识别目标的决定权仍掌握在人类操作员手中，但这些无人机搭载的技术组件，包括基于人工智能的军事目标探测和跟踪，大概可以实现自主武器的使用，尤其是在通信中断的环境中。2022 年 10 月，一名乌克兰军官告诉一家乌克兰通讯社，他的团队已经在没有人类参与的情况下开展了完全机器人化的无人机行动，但并未证实这种自主行动包括打击，并表示这只是一种 点现象，而非普遍做法。越来越多的乌克兰无人机公司正在研发人工智能驱动的软件，即使无人机因俄罗斯部署的电子干扰而与人类操作员失去联系，该软件也能帮助无人机保持在目标位置。
俄罗斯也广泛使用无人机，包括 Orlan-10、Orlan-30、Eleron-3、Takhion、Zastava 和 Zala 等 ISR 无人机系统，以及直升机型无人机，还有用于执行远程 ISR 和作战任务的 Forpost-R 和 Orion 作战无人机，以及伊朗提供的 Shahed-136 无人机。自 2022 年 10 月以来，俄罗斯武装部队越来越多地使用导弹和无人机袭击民用基础设施，破坏了全国的电力、供暖和供水。例如，2023 年 5 月，俄罗斯在对基辅的一次大规模袭击中发射了近 60 架无人机，其中大部分是伊朗的 沙赫德-136 无人机。
俄罗斯还使用游荡弹药，特别是 KUB-BLA 和 Lancet。KUB-BLA 属于基于人工智能的自主武器 ，因为据报道，该系统能够利用人工智能 实时识别被探测物体并对其进行分类，或如一些人所说，利用人工智能识别目标。不过，正如一些报道所指出的，目前还不清楚无人机是否可能在乌克兰以这种[人工智能自主]方式运行。据俄罗斯媒体报道，2022 年 6 月，俄罗斯军方还使用 Lancet-3 游荡弹药打击了扎波罗热州的乌克兰阵地，而乌克兰频道则报道称，乌克兰武装部队在米科廖夫州击落了一个 Lancet 系统。最近，据报道 柳叶刀 无人机在 2023 年整个夏季也被广泛用于反击乌克兰的反攻。此前，俄罗斯特种作战部队曾于 2021 年在叙利亚使用过 柳叶刀 无人机。据该系统的制造商扎拉航空集团称，该系统能够自主定位并打击指定区域内的目标--但目前仍无法确定该系统是否曾在乌克兰以这种模式使用过。
人工智能技术的进步，如高保真传感、机器学习、计算机视觉和自然学习处理，使系统能够以前所未有的速度和数量收集、整理和分析复杂数据。人工智能带来的信息处理速度和更高的准确性可以提高对态势的认识，帮助各级指挥领导做出更好的决策。此外，人工智能在信息处理方面的应用可以将人员解放出来执行其他任务，这对乌克兰和俄罗斯部队都具有直接价值，因为在整个冲突期间，双方都在努力解决人手不足的问题。
2022 年 12 月，《》报道称，乌克兰部队和北约顾问正在境外使用一种名为 MetaConstellation 的 Palantir 工具，该工具可以汇总来自商业卫星的数据，创建战场数字模型，帮助指挥官看穿 战争迷雾。位于乌克兰境外的更大型、更复杂的系统用AI分析传感器数据，以识别敌方阵地，估计哪种武器对敌方最有效，并在每次打击后进行战损评估，然后将评估结果反馈到数字网中，以提高预测模型的可靠性和准确性。北约顾问可以将这些情报提供给当地的乌克兰指挥官，以指导军事任务式指挥。2023 年 2 月，Palantir 的首席执行官表示，该公司 负责乌克兰境内的大部分目标攻击。虽然这种说法难以核实，但它确实说明，使用人工智能分析和融合来自不同类型来源的数据，可以直接提高精确度、速度和杀伤力。
事实证明，乌克兰军队在获取现成的商业技术并将其用于军事用途方面也特别机智。据新闻报道，美国公司 Primer 向乌克兰提供了解析和利用情报信息的机器学习解决方案。虽然该公司的代表不愿透露细节，但他解释说，人工智能算法被用于捕捉、转录、翻译和分析在不安全或非加密渠道上传输的截获的俄罗斯军事通信。使用自然语言处理技术分析军事通信不仅体现了人工智能的双重用途性质，也说明一些商业应用相对容易被用于军事目的--在这种情况下，使用现成的代码和应用编程接口，可以转录和翻译语音、去除背景噪音和其他任务，并重新训练机器学习模型，以更好地识别军事词汇，包括军用车辆和武器的口语化术语。
此外，至少有三个乌克兰政府机构表示，他们已经使用 Clearview AI 提供的面部识别技术来识别死亡的俄罗斯士兵和战俘，或在担心间谍和破坏分子的情况下核实全国各地旅行者的身份。从俄罗斯入侵初期开始，乌克兰政府就一直在努力识别死亡的俄罗斯士兵并通知他们的家人，以此来影响俄罗斯公众对这场战争的现实和代价的看法。尽管如此，很难说 Clearview 的工具能否有效地完成这样的任务--面部识别技术在准确性方面普遍存在问题，而鉴于战时受伤的范围和严重程度，战场上的伤亡尤其难以用这样的技术来定性。
在乌克兰战争背景下，俄乌互相使用信息行动，目的是削弱、破坏和摧毁对方军事、政府和经济功能；攻击关键民用基础设施、供应链和物流中心；限制公众获取信息。俄罗斯的网络机构和附属非国家行为者在多大程度上将人工智能融入其行动中，目前尚不十分清楚。不过值得注意的是，据微软公司称，最近在网络威胁情报方面取得的进步，包括人工智能的使用，使得更有效地检测这些攻击成为可能，从而帮助抵御了高比例的破坏性网络攻击。
评估AI和自主技术对俄罗斯乌克兰战争或更广泛的战略稳定的轨迹和动态的影响并不是一项简单的任务。几乎所有有关人工智能能力和技术部署的公开信息都不完整。媒体报道或政府官员的声明很少提供足够的技术细节来解读特定系统的具体能力或功能。出于对行动安全、消息来源安全和共享机密数据的考虑，对特定技术使用情况的描述也相当笼统，缺少有关地点、时间、条件、效果和影响的重要细节。政府官员或公司代表关于各种AI和自主系统的能力和用途的声明很少经过独立核实，可能出于各种政治、商业、安全或其他原因，夸大、缩小或忽略了关键信息。此外，在现阶段，几乎不可能脱离其他因素（包括其他武器和军事系统或向乌克兰提供的其他形式的外国技术和情报援助）来评估AI和自主技术对冲突动态或战略稳定的影响。考虑到这些限制因素，本节将探讨在乌克兰战争中使用AI和自主技术可能会怎么样影响从常规战争升级到使用核武器以及冲突扩大到包括其他各方的风险。
核升级的威胁是俄罗斯乌克兰战争中一个特别危险的因素。然而，AI和自主技术的使用似乎并不会对这些动态产生太大影响，至少不会以本文之前概述的有关该主题的文献所提供的任何方式产生影响。
核战略升级的可能性继续影响着有关向乌克兰提供何种先进武器的决策。北约或更具体地说华盛顿不愿向乌克兰提供可打击俄罗斯境内目标的远程导弹，就更是如此。然而，这种克制战略并没有限制提供人工智能智能和战斗管理软件，帮助乌克兰人瞄准俄罗斯的军事力量和装备。目前来看，战时使用人工智能与常规战争升级到使用核武器的风险之间只存在微弱的联系。
如前所述，学者们就人工智能和自主技术对冲突动态的潜在影响提出了广泛的论点，包括分析人工智能支持的网络行动和虚假信息运动的不稳定影响。目前，还没有足够的信息来评估这些假设的有效性，这主要是因为俄罗斯的网络机构和相关非国家行为者是否以及在多大程度上将人工智能融入了他们的行动中并不为人所知。尽管如此，微软公司公布的证据表明，人工智能在加强网络防御方面发挥了更加突出的作用，使其能够更有效地侦测破坏性网络攻击。人工智能的这一防御优势会怎么样影响网络冲突以及升级为军事对抗或冲突蔓延到其他国家的风险，这无疑是一个值得进一步关注的问题。
乌克兰战争也为有关人工智能军事武器和系统的事故、误用和故障导致局势升级的讨论提供了早期启示。例如，2022 年 11 月 16 日发生了一起特别紧张的事件，波兰发生致命爆炸，造成两人死亡，加剧了人们对冲突升级和冲突蔓延至其他国家的担忧。事件发生后不久，北约秘书长延斯-斯托尔滕贝格（Jens Stoltenberg）和波兰消息人士发表声明解释说，爆炸是乌克兰防空系统应对俄罗斯导弹袭击时发生的意外，而不是俄罗斯对北约盟国领土的蓄意攻击。
关于乌克兰防御导弹误击波兰事件的具体细节，包括系统的自主程度或误射原因，目前尚未公开。尽管如此，自动和自主功能已被集成到大多数防空系统的关键功能中。
除了当前的乌克兰战争，AI和自主技术融入军事系统和任务可能会怎么样影响美俄之间的战略稳定？虽然两国之间的信任正处于低谷，但华盛顿和莫斯科在防止意外战争、最大限度地降低因人工智能事故或敌对自主系统之间的意外互动而引发升级或冲突的风险方面仍有共同利益。
目前，全面禁止将人工智能用于军事目的的呼声不高。联合国致命性自主武器系统政府专家组（Group of Governmental Experts on LAWS）针对致命性自主武器系统（LAWS）的讨论在制定具有法律约束力的文书或任何其他类型的文件以帮助规范这些技术的开发和使用方面进展甚微。在这种情况下，学者和政策制定者越来越多地将目光投向建立信任措施（CBMs），即各国为增加透明度、提高意图清晰度、避免误解和减少与军事人工智能相关的风险而可以采取的一系列广泛行动。
有几种建立信任措施适用于军事人工智能，并与美俄的情况相关。也许最有效的方法是限制在核行动等具有特殊和可能灾难性风险的领域使用人工智能。一些学者建议，例如，美国可以提出一项多边承诺，要求核指挥和控制系统中始终人在回路中，并承诺不将核武器放置在没有载人的平台上，因为在这种平台上，一旦出现问题，没有人在那里纠正错误或覆盖系统。包括俄罗斯等在内的有核国家已经有了核指挥与控制的实践，其中包括人类与自动决策辅助系统一起工作来发射核武器，而且人们普遍认为人类应保留对使用核武器决策的控制权。在未来与俄罗斯的战略稳定对话中（当此类接触重新开始时），或许有可能提出这一问题。即使俄罗斯拒绝参与这一建立信任措施，美国也可以在不损害美国核威慑的情况下，通过推进这一措施巩固其在人工智能安全方面的全球领导者地位，并与其他有核国家合作，推动就AI和核武器问题提出更广泛的多边建议。
随着美国和俄罗斯军队将更多自主功能纳入部署在黑海等有争议地区或最靠近俄罗斯边境的北约国家的无人驾驶系统，事故、故障以及这些系统之间复杂的相互作用可能会进一步加剧紧张局势。为减少自主和人工智能系统部署的不确定性而制定的信息共享和通知程序有助于最大限度地降低或管理意外升级的风险。1972 年的《美苏海上事件协议》为美苏海军舰艇的行动建立了沟通和信息共享机制，一些学者借鉴该协议，建议制定一项国际《自主事件协议》，重点关注自主系统的军事应用。这种协议可以为部署AI和自主系统时可接受的行为制定广泛的规则，特别是在空中和海上领域，并可能包括一个军方与军方之间的通信渠道，以实时应对事件。
上述讨论主要集中在国家可以采取哪些行动，在极度不信任甚至公开敌对的情况下最大限度地降低军事人工智能的风险。然而，乌克兰战争凸显了商业技术公司在现代战争中扮演的重要角色，促使我们密切关注它们对冲突动态、威慑力和战略稳定性日益增长的影响。SpaceX、微软、Palantir、Planet、Capella Space、Maxar Technologies 等公司向乌克兰政府、武装部队和平民，以及致力于帮助乌克兰取胜的美国和北约盟国提供了数据、设备、技术能力和其他资源。在这种情况下，商业公司（其中大多数总部设在美国或西方国家）的道德要求、商业计算和地缘政治立场似乎与美国支持乌克兰的国家安全优先事项和战略利益一致。然而，在未来的冲突中，这些偏好可能会出现分歧，甚至走向对立面。同时，竞争对手或敌对国家的政府与工业合作伙伴之间的工作关系也会对未来危机或冲突的发展产生影响。
随着私营技术公司走在人工智能创新的前沿，商业现成技术慢慢的变多地应用于战场，现在正是确保这些行为体也参与国际努力的时候，以阐明军事自主和人工智能政策或实施建立信任措施，从而降低意外或意外升级的风险。最后，尽管美俄之间某些类型的交流目前在政治上可能并不可行，但继续投资于减少不确定性和避免围绕军事自主和人工智能的使用产生误解的方式，对于巩固战略稳定和降低灾难性升级的风险将至关重要。
专知，专业可信的人工智能知识分发，让认知协作更快更好！欢迎注册登录专知，获取100000+AI(AI与军事、医药、公安等)主题干货知识资料！
点击“阅读原文”，了解使用专知，查看获取100000+AI主题知识资料返回搜狐，查看更加多
