「防务观察」张煌 杜雁芸：全球自主武器系统的发展及其对战略稳定性的影响

张煌 杜雁芸：全球自主武器系统的发展及其对战略稳定性的影响

作者：张煌：国防科技大学文理学院副教授，硕士生导师；杜雁芸：国防科技大学文理学院副教授，硕士生导师

来源：《国际论坛》2021年第3期；国际论坛

微信平台编辑：周悦

【内容提要】 长期以来，人们习惯于在核武器的范围内探讨战略稳定性问题，未能对网络、太空以及无人作战等新兴领域军备发展引发的战略稳定性问题给予足够的重视。本文聚焦当前在国际冲突中扮演重要角色的自主武器系统，从自主情报分析、自主指挥编成以及自主火力打击三个方面界定了自主武器系统的定义，分析了世界主要军事强国、技术后发国家以及非政府行为体围绕发展自主武器系统展开的国际竞赛，从危机稳定性和军备竞赛稳定性两个维度揭示自主武器系统对全球战略稳定性带来的新挑战：一方面，自主武器系统有利于强化“第一次打击”优势、加剧危机“意外爆发”和“意外升级”的风险，导致危机稳定性进一步降低；另一方面，较低的扩散门槛、研发过程的不透明性以及围绕自主武器系统的认知差异，导致自主武器系统的军备竞赛愈演愈烈。为应对自主武器系统对全球战略稳定性的挑战，中国应当在联合国框架下积极参与自主武器系统的军备控制与危机管控，增进与掌握自主武器技术的主要国家间的战略互信，推动构建维护自主武器系统战略稳定性的全球治理网络。

【关键词】 自主武器系统；战略稳定性；危机稳定性；军备竞赛稳定性；战略互信

一

引言

2020 年 11 月 27 日下午，伊朗政府确认，伊朗核计划的负责人穆赫森·法赫里扎德在德黑兰附近遭遇一架遥控机枪袭击身亡。无独有偶，在此前的 2020 年 1 月 3日，伊朗“圣城旅”指挥官苏莱曼尼少将同样在美军的远程遥控无人飞机“定点清除”行动中遇难。不到一年时间内，出现两起针对伊朗高层的自主武器袭击事件，引发国际舆论的广泛关注。其中，一个关注的热点即是聚焦两次袭击事件所采用的攻击手段。作为引领未来智能化战争的军备力量，近年来自主武器系统（Autonomous Weapon System）针对高价值目标的“斩首”行动频繁发生，是否会对中东地区乃至全球的战略稳定性带来负面影响？

长期以来，军控专家从固有思维出发，习惯于从核武器与核军控的视角评估战略稳定性。冷战期间，核军控专家将战略稳定性用于评估核武器对于全球安全环境可能产生的潜在影响：稳定性高意味着安全，核军备竞赛与核战争发生的可能性降低；稳定性低则意味着危机的来临，可能导致冲突乃至战争的爆发。但是，伴随网络武器、太空 / 反卫星武器等新型作战空间攻防技术的兴起，新美国安全中心的保罗·沙瑞尔等学者提出：“稳定性的逻辑也同样适用于非核武器。” 围绕网络武器、太空武器与战略稳定性之间的关联性研究日益受到国内外学者的关注。 作为军事智能化时代武器技术发展最新、最典型的代表，自主武器系统对全球安全环境带来风险与威胁日益成为社会各界的共识。2015 年 7 月，国际人工智能专家和机器人专家发出公开信，要求禁止自主武器系统，将其潜在的安全风险与核武器相提并论。“杀手机器人禁令运动”组织也向全球发出呼吁，全面禁止完全自主武器系统的发展、制造和使用。伊朗核科学家遭遇自主武器暗杀后，伊朗最高军事指挥官穆萨维（Abdolrahim Mousavi）指出，伊朗保留报复的权利，并将杀害这位科学家的行为归咎于美国和以色列。 许多国际媒体纷纷预测，这一事件可能将催化伊朗的核武器进程，进而对中东地区安全环境和全球战略稳定带来严峻挑战。由此可见，自主武器系统以其特有的“蜂群”和“定点清除”攻击，不仅改变了传统的作战样式，同时可以对高价值目标展开远程遥控打击，使得战术行动产生“四两拨千斤”的战略效果，进而威胁地区乃至全球的战略稳定性。

目前，对于自主武器系统与国际关系之间的关联性 , 国内学界除了徐能武、刘杨钺等少数学者从军备控制的宏观视角切入这一议题， 真正聚焦战略稳定性的专题性研究和深层次分析仍然暂付阙如。国外学界对于这一议题的关注相对多一些，相关讨论涵盖技术（如打击速度与稳定性的问题）、法理与伦理（如自主武器的识别困境和责任缺位）等不同方面。 然而，由于研究视角与价值观念的局限性、国情与军情的差别以及自主武器技术和应用方式的不断创新发展，当前研究在深度与广度上仍存在较大的提升空间。本文从经典军控理论体系中战略稳定性理论分析框架出发，在界定自主武器系统定义和分析其发展历程的基础上，揭示自主武器系统对全球战略稳定性造成的冲击和挑战，并就中国如何应对挑战提出对策思考。

二

自主武器系统的定义

对于自主武器系统概念的界定，依据美国国防部 2012 年的定义，自主武器系统是“一种激活后就无需操作人员进一步干预，可以自主选择和攻击目标的武器系统。”国际红十字委员会（ICRC）2014 年将自主武器系统定义为“可以独立选择和攻击目标的武器，即在获取、跟踪、选择和攻击目标等‘关键功能’方面具有自主权。” 保罗·沙瑞尔在其 2018 年出版的《无人军队：自主武器与未来战争》中，将自主武器系统定义为“能够独立完成全部作战任务周期，包括搜索目标、决定攻击和发动攻击的武器。”由此可见，当前学界虽然普遍认为自主武器系统具有某些不依赖于人类控制的自主性，但是，学界对于自主性在自主武器系统中的具体体现仍然存在一定的认知差异。依据当前美国等世界军事强国在提升武器装备自主性方面的具体实践，当前自主武器系统自主性能的发展主要集中在以下三个方面：

自主情报分析。情报分析的失误可能导致危机的升级甚至战争的爆发。传统的情报分析主要基于人力系统来完成。自主武器系统可以对海量情报数据信息进行人工智能分析。为实现自动化情报处理，2017 年美国国防部宣布成立了代号为“Maven”的算法战跨职能小组，研究在情报收集单元实现计算机视觉和机器学习算法的融合，其目的是为了“将大量动态形式的视频数据转化为可用、可操作的情报和见解”。 譬如，在针对“伊斯兰国”的反恐作战中，自主武器系统利用算法筛选无人驾驶飞机录像画面的高价值信息，从而自动识别敌对目标的活动。通过这种能力，自主武器系统可以将当前人类分析人士需要花费数小时来筛选录像画像以获取有价值信息的工作转变成几分钟的自动化处理工作。

自主作战指挥与组织编成。利用人工智能算法，自主武器系统可以基于对战场的实时分析，依据战场态势发展进行动态任务规划，自主生成可行的作战行动路线方案，从而提高作战响应的实敏性和战时指挥决策的质量与速度。2017 年美国国防部高级研究计划局（DARPA）提出的“马赛克战争”（Mosaic Warfare）就是一个典型的例子，通过将自主武器系统、低成本传感器网络、联合多域命令和智能控制节点组合成为一个具有高度适应性的作战网络，依据战场情况和作战需求的变化发展，动态生成作战指挥命令，快速实现作战形态的自我聚合与分解，为作战指挥提供前所未有的自治性和灵活性。 随着加速的作战决策以及对决策的加速再响应，人类分析和理解战场态势的速度可能跟不上自主武器系统运行的速度。

自主火力攻击。自主武器系统能够在不依赖外界指令和设备支持的情况下，在复杂作战环境中依靠人工智能系统独立做出开火决定。虽然，对于目前大部分人类开发的半自主武器系统而言，远程控制中心的操控员仍然掌握着开火的最后按钮，但是，一些军事强国已经开始研制开发具备自主开火模式的完全自主武器。譬如，英国军方研发的“硫磺石”导弹，就具备“发射后不管”的极高自主性，操作人员只需为“硫磺石”导弹设置一个大致的“杀伤范围”（Kill Box），它就会向该区域内的敌方目标发起自主攻击，即每枚导弹可自行决定攻击哪辆坦克或其他作战车辆。 再比如，韩国军方部署在朝韩边境的 SGR-A1 武装机器人“哨兵”，通过使用模式识别软件和弱光摄像头识别、锁定“越境者”，并在必要的时候自主掌握攻击权限。

需要说明的是，自主武器系统的发展存在一个自主性程度逐渐提高的过程，即从远程遥控的半自动系统向完全自治系统的发展演进过程。当前世界各国正在研发或已经使用的各类自主武器系统，基本上都处于人类监督状态下，由人类掌握最终控制权。有鉴于此，本文对于自主武器系统与战略稳定性关系的分析，并没有将考察对象严格限定于完全自主的武器系统，而是拓展到具备一定自主化特征的半自主武器系统。

三

自主武器系统发展的国际态势分析

伴随自主武器系统在信息化战争的攻防博弈中扮演日益重要的角色，围绕自主武器系统的军备竞赛逐渐在更广的维度、更深的层次上如火如荼地展开，军事强国间呈现出你追我赶的激烈竞争态势。具体而言，全球自主武器系统的发展态势主要体现出三方面的特点：

（一）美国成为全球自主武器系统发展的引领者

作为“技术制胜”理念的长期践行者，美国将自主武器系统视为“改变战争规则”的颠覆性武器，试图通过发展自主武器系统来谋取未来军事竞争的可持续优势，不断完善政策制度设计，加快装备技术研发和作战应用的进程。

完善自主武器系统发展的顶层设计。美国高度重视自主武器系统发展的政策制度牵引。早在 2012 年 11 月，美国国防部就出台了发展自主武器的官方文件——《国防部指令 3000.09（武器系统中的自主性）》，规定了研发半自主和自主武器的通用原则，为美军大力发展自主武器系统畅通了道路。2014 年，美国国防部宣布将“机器人技术、自主操作和控制系统、先进的计算和大数据”等技术作为“第三次抵消”战略的基石，本质上是试图依托人工智能领域军事技术的质量优势，抵消其他国家在常规军事技术领域的数量优势。 特朗普上任以来，高度重视先进的自主武器系统的研发和应用，在2018 年度《国家安全战略》中将其作为“确保能够打赢未来战争”的重点技术领域，并不断加大投入力度。 在 2020 年 3 月美国国防部提交的财政预算中，用于无人作战系统的研发费用就高达 37 亿美元。

构筑了覆盖海陆空天和网络空间的多维度的自主武器军备体系。在政策制度的牵引下，美军按照“全域威慑”和“全球快速投送”的目标要求，积极推进自主武器作战力量的全域部署。美国空军于 2013 年颁布了《遥控飞行器愿景》，实施了“联合无人空战系统”项目，初步形成以“捕食者”和“收割者”无人机、“X-47B”空天战斗机、“蜂群”式集群攻击作战武器等为核心的空中无人作战力量；美国海军长期致力于开发“旨在提供低成本、高耐久性、可重构的舰船，使其能够容纳无人海上作战任务的各种有效载荷”，正在研发并尝试打造以“黄貂鱼”无人舰载机、Hunt 无人水面舰艇、Orca超大型无人水下机器人等为代表的“无人舰队”；美国陆军则致力于构建先进的陆战目标瞄准和致命性自动系统（ATLAS），该系统利用人工智能导航和机器学习来实现战车自主定位，从而使得陆战武器在获取、识别和打击目标的速度上提高 3 倍。 在网络空间，美军不仅成立了网络司令部，先后颁布一系列网络空间战略与作战条令，而且积极推动网络空间自主武器系统的研发，已经构建了种类丰富、功能完备的网络武器库。太空方面，在 2018 年，美国宇航局（NASA）宣布开启自主航天飞船的研发进程，从而为未来自主武器系统在外层空间的部署奠定了基础。

积极推动自主武器系统的实战化应用。早在小布什政府时期的反恐战争中，无人机就迅速发展成为集合侦察、打击功能一体化的反恐利器。2002 年 11 月 4 日，在也门马利卜地区，美军使用“捕食者”无人机向恐怖组织目标发射精确制导炸弹，击毙“基地”组织重要头目阿尔哈特希。此次袭击行动是第一次被广泛报道的由无人机单独实施的对高价值目标进行攻击的行动。在奥巴马和特朗普执政时期，无人机在美军遍布全球的“定点清除”式反恐中展现出日益重要的作用，包括伊斯兰国最高领导人巴格达迪、巴基斯坦塔利班高级领导人乌马尔·纳来以及基地组织阿拉伯半岛高层领导人安瓦尔·奥拉基尽皆命丧无人机之手。2020 年 1 月 2 日，美军使用“收割者”无人机击毙了伊朗军方重要领导人、“圣城旅”指挥官卡西姆·苏莱曼尼，引发国际舆论的高度关注。除却无人机，美国自主武器系统也在其他领域的作战应用中显露峥嵘。从 2010 年“震网”病毒攻击伊朗布什尔核电站事件，到 2020 年远程遥控机枪击毙伊朗核专家事件，在国际舆论看来，上述自主武器系统匿名攻击事件背后，都与美国有着千丝万缕的联系。

（二）各国竞相掀起研发、应用自主武器系统的军备竞赛

俄罗斯、英国、法国、以色列等传统军事强国虽然在某些领域取得突破性进展，但较之美国在自主武器系统上的整体领先地位，仍然存在一定差距。以俄罗斯为例，近年来，俄军将自主武器系统的发展重点放在陆战机器人上。沙瑞尔指出，俄军正在研发可执行关键基础设施保护、城市作战等任务的地面武装机器人部队，类型包括小型机器人、机器人步兵编队乃至机器人坦克。目前正在开发和已经列装的陆战机器人包括“平台 -M”履带式车辆、A800 步兵支援车、“天王星 -9”反坦克导弹以及“维克”机器人坦克。由此可见，俄军试图创造陆战机器人集群作战优势的意图明显。俄罗斯人工智能专家米哈伊尔·梅德韦杰夫甚至预言，2030 年俄罗斯陆军将主要由自主机器人组成。与俄罗斯类似，近年来，诸如以色列“哈比”无人机、英国的“硫磺石”导弹以及法国的“神经元”无人机等先进自主武器系统竞相涌现，充分说明当下各国推进自主武器装备研发和应用的浪潮已经引发了全球范围内新一轮的军备竞赛。

一些非传统军事强国纷纷加快自主武器系统引进、仿制和作战应用进程。为缩短与世界军事强国的差距，技术后进国家将发展自主武器系统作为在军备领域“弯道超车”“换道超车”的重要战略举措。统计数据显示，截至 2017 年 6 月，全球掌握无人机技术的国家已经超过 100 个，有 16 个国家拥有了武装无人机技术，包括韩国、缅甸、哈萨克斯坦、土库曼斯坦、尼日利亚、沙特、阿联酋、伊朗等非传统军事强国。其中，印度的“奥拉”无人机项目以及韩国的 SGR-A1 机器人哨兵项目在自主化程度方面已经接近发达国家水平。

（三）自主武器系统向非国家行为体扩散

自主武器系统的国际贸易和技术转移缺乏有效监管，为非国家行为体获取自主武器系统大开方便之门。奥特曼等人指出：“核武器的研发甚至到现在仍需要举国之力来实现，必须依靠集中的政治、军事努力来进行‘全国一盘棋’的统筹协调来生产。与诸如核武器之类的大规模杀伤性武器装备相比，自主武器系统更加容易获得。” 较低的研发门槛加上军用、民用技术的高度一体化，导致围绕自主武器系统的国际“黑市”交易泛滥，自主武器系统不仅可能落入技术水平较低的国家行为者的手中，还可以落入非国家行为者特别是暴力极端主义团体的手中。

形形色色的非国家行为体将自主武器系统应用于武装冲突、恐怖袭击等行动中，给国际安全环境带来新的挑战。目前，自主武器系统已经扩散至包括也门胡塞武装、“真主党”“哈马斯”以及“伊斯兰国”在内的诸多非国家行为体。2019 年 9 月 14 日，也门胡塞武装使用无人机袭击沙特阿美石油公司的两处主要石油设施，引发国际能源市场的震荡和恐慌。在伊拉克的伊斯兰国组织也已经开始使用无人机，搭载简易爆炸装置进行恐怖袭击活动。 相对于主权国家尽可能以精确的方式使用自主武器进行有针对性的定点清除行动，恐怖组织甚至可以罔顾禁止授权武器进行致命型自主攻击的伦理底线，一旦自主攻击的“潘多拉魔盒”被打开，可能导致军备竞赛向着违背人道、丧失人性的方向渐行渐远。

使用自主武器系统的匿名攻击、“黑飞”事件频繁发生。近年来，全球自主武器匿名攻击事件频繁发生，2018 年 8 月，不明无人机机载 C4 炸药对委内瑞拉总统马杜罗发动袭击，造成 7 名士兵受伤，背后的推手究竟是主权国家，还是掌握自主武器的众多非国家行为体？国际社会众说纷纭，莫衷一是。此外，自主武器系统向非国家行为体的扩散，也导致国际上无人机“黑飞”事件频繁发生，美国白宫、日本首相官邸、韩国青瓦台、法国巴黎市政府等主权国家敏感区域都曾遭遇无人机“入侵”，严重干扰国际社会正常的公共安全秩序。

四

自主武器系统对战略稳定性的挑战

2015 年 7 月，“国际人工智能联合会议”的开幕式宣读了全球 116 名科技专家的联名公开信，包括物理学家霍金、特斯拉公司 CEO 马斯克、苹果公司联合创始人沃兹尼亚克等人共同指出：“致命性自主武器系统有可能成为战争中的第三次革命。一旦它们发展起来，可能导致武装冲突以比以往任何时候更大的规模进行，而且速度比人类所能理解的还要快。” 当前，包括联合国秘书长、联合国军控委员会负责人、国际红十字委员会负责人和欧洲议会议长在内的国际政要以及人工智能领域的广大科技专家，都坚决反对自主武器系统的研制和使用。 自主武器系统对于全球安全和战略稳定性究竟会带来怎样的挑战？在笔者看来，挑战主要聚焦在危机稳定性和军备竞赛稳定性两个方面。

（一）自主武器对危机稳定性的挑战

危机稳定性是战略稳定性的重要组成部分。冷战期间，学界试图用先发制人打击（第一次打击）与后发制人打击（报复打击）之间后果的差别，来评估核威慑的有效性和衡量核打击的稳定性：如果先发制人与后发制人的后果差别小，则先发制人进行核打击的意愿低，危机稳定性高；反之，如果先发制人与后发制人的后果差别大，则先发制人的意愿就很强烈，危机稳定性低。 在伊朗最高核科学家穆罕默德·法赫里扎德遇刺后，联合国发言人就中东地区可能出现的安全危机发出警告，并呼吁中东地区各国保持克制，避免危机爆发和升级的风险。3 由此可见，伴随自主武器暗杀袭击事件日益频繁，其对危机稳定性造成的负面影响已经逐渐成为共识，自主武器系统日益从多个维度对既有的危机稳定性产生新的冲击：

从成本与收益的视角分析，自主武器系统攻击的低成本和高收益，有利于强化技术领先国家的先发打击优势，进而降低了“第一次打击稳定性”。在奥特曼等人看来，“自主武器必然会对先发制人的攻击提供更强有力的激励。” 这种激励主要体现在两个方面：一方面，自主武器系统可以极大地降低“第一次打击”的成本。打击成本是影响国家先发打击决心的重要因素，较之核武器动辄数以亿计的高昂打击成本，使用自主武器系统能够避免战斗人员伤亡，降低战争资源损耗。奥特曼等人指出：“自主武器系统不需要庞大、昂贵或尖端科技。相反，这样的系统可以是便宜的和一次性的，使用 3D 打印机生产并从数据中获得力量。”⑤ 另一方面，利用自主武器进行先发制人的“第一次打击”，看似是战术层面的攻击行动，却可能产生战略层面的巨大收益。近年来，国际上先后出现的“无人机袭击沙特油田”“无人机袭击委内瑞拉总统”“无人机刺杀伊朗少将”“自动机枪刺杀伊朗核科学家”等一系列危机事件，证明技术先发国家利用远程操控智能化武器平台的方式，就可以发起对敌政府首脑、军方统帅或国家关键基础设施的“定点清除”式攻击，可能达成“首发制穴”的打击效果。更为值得关注的是，自主武器系统存在与核武器等战略武器相互融合的潜在趋势。依据战略稳定性理论，一国是否采取先发制人的打击策略，关键在于打击行动是否能够给予对手足够的伤害，以实质性削弱甚至消除对手的反击能力。乔治·刘易斯和西奥多·波斯托尔等学者指出，可以利用隐形无人机攻击敌对国家的核武器输送系统、指挥控制系统以及关键基础设施组件，从而提升美国的弹道导弹防御能力。自主武器技术与核武器攻防技术深度融合并应用于核打击领域，可能给予战略对手难以估量的政治、经济与军事损失。综合以上两个方面，一旦以自主武器系统实施“第一次打击”成为“低成本、高收益”的军事行为，那么处于危机状态的国家间用其进行先发制人打击的意愿就会增大，危机稳定性相应降低。

自主武器系统独特的作战方式可以打破现有的攻防格局，导致进攻占优的攻防不对称局面。攻防格局是影响“第一次打击稳定性”的重要因素。当攻防格局处于“进攻占优”的状态时，先发制人的攻击成本较低，更容易引起战争的爆发；而当攻防格局处于“防御占优”的状态时，会使侵略他国的成本变高，从而增加“第一次打击稳定性”。自主武器系统的发展，为打破现有的防御体系提供了新的技术手段。以伊朗核科学家遇刺事件为例，在伊朗安全部门看来，刺杀者之所以能够深入伊朗境内成功狙杀目标，并使得伊朗方面严密的安保措施形同虚设，关键在于采取了利用卫星远程操控自动机枪的作战方式。 而在 2019 年 9 月，沙特油田遭遇也门胡塞武装无人机袭击时，防空系统竟然毫无反应。据媒体报道，沙特阿拉伯已在先进的防空系统上投入巨资，然而，沙特阿拉伯的大多数防空系统旨在防御传统威胁，并且装备不足，无法应对无人机等非对称空中威胁。这些案例表明，现有安防设施并不足以应对自主武器系统的密集攻击。基于此，近年来，欧美军事强国大力发展高速、大量、群体模式的无人机“蜂群”攻击，将其作为突破现有防御体系的关键潜在力量。一旦以无人机“蜂群”为代表的自主武器系统成为突破现有防御体系的利器，处于危机状态的国家间施行先发制人打击的意愿就会变大，危机稳定性也就相应变低。

自主武器系统可能导致危机“意外爆发”和“意外升级”风险，使得“终止战争”机制失效。在自主武器系统作为主体的战争中，人类通过预先授权的方式，将武器操控的自主权交给机器，从而拆除防范战争“意外升级”的一个“保险装置”——人类的控制。失去人类控制的自主武器系统一旦应用于战争，可能导致攻击范围、时间和毁伤程度等方面的诸多不确定性，进而加剧危机意外爆发和升级的风险。以 2007 年 10 月美军在南非军事演习的意外事件为例，具有高度自主性的防空系统突然出现故障，从而导致美军参演防空火炮整体失控，即便该防空系统的操控员多次尝试关闭火炮自动发射装置，但由于火炮已经被计算机系统接管而造成关闭指令失效，只能等待防空火炮系统中装弹机内的高爆炮弹自行发射完毕，该意外事故也造成美军多名参演官兵死亡或重伤。由此可见，完全自主武器系统虽然排除了人类的控制干预，加快了系统运行速度，但由于“战争迷雾”和不确定性突发状况的随时存在，一旦自主武器系统在真实战场上出现系统“短路”或黑客“入侵”的情况，就会将人类战争推向彻底失控的深渊。

（二）自主武器对军备竞赛稳定性的挑战

依据军备控制理论，一种军备行为是否会引起对手的反应并导致军备竞赛，这个状态被称作军备竞赛稳定性。因此，军备控制的主要任务是调整军备格局，由此减少潜在对手之间爆发核战争的可能性，降低双方出现军备竞赛的可能性。 美国人工智能专家史蒂夫·奥莫洪德罗指出：“自动武器军备竞赛已经在进行。它们可以更快、更有效，更不可预测地做出反应。”当前，国际上发展致命性自主武器的军备行为，主要从三个方面影响军备竞赛的稳定性，导致全球致命性自主武器的军备竞赛愈演愈烈。

自主武器系统在全球范围内的快速扩散增加了军备控制的难度。一般而言，参与军备控制的国家数量与军备控制的稳定性成反比。较之核武器，自主武器系统较低的研发难度为其在全球范围扩散提供了便利。从技术层面来看，自主武器系统的核心部件在于自主控制系统，也就是在于软件而非硬件。正如奥特曼所指出的：“自主武器系统不需要矿石、离心机、高速保险丝或其他相对‘异国情调’的组件以机密的方式组装和测试。因此，虽然核武器技术可以受到扩散控制，但自主武器系统更难以进行监管。”装备简易控制系统的自主武器技术门槛不高，没有复杂的研发链，开发费用相对低廉，也无需耗费大量时间用于操作训练。截至 2017 年 6 月，共有中国、埃及、伊朗、伊拉克、以色列、约旦、哈萨克斯坦、沙特阿拉伯、土耳其、土库曼斯坦、阿拉伯联合酋长国、英国和美国等16个国家拥有武装无人机。其中任意一个国家的反对，都可能导致自主武器军备控制协议面临流产的风险。

更值得关注的是，自主武器向非国家行为体的流动，可能导致军备竞赛稳定性面临更为严峻的威胁。当前，世界主要自主武器技术拥有国，在研发和生产自主武器系统的过程中，基本上都坚守人类享有监督控制权利的底线，从而抑制了完全自主武器系统的底线。无人机、机器人在民用领域的广泛应用，降低了自主武器流向恐怖组织等非国家行为体的成本。相对于主权国家，恐怖组织可以毫无顾忌地利用自主武器的快速杀戮能力，进而对技术先发国家造成军备竞赛的压力。2016 年 3 月，美国国防部副部长罗伯特·沃克在接受《华盛顿邮报》的专访时指出，“美国不会委托一台机器做出致命的决定”，然而，他也承认，“美国可能会面对一个更愿意将权力委托给机器的竞争对手，随着竞争的展开，美国将不得不决定如何才能最好地竞争。”

自主武器技术发展的不透明性，导致自主武器的军备竞赛更容易升级。历史上，由于不透明性造成的安全困境是引发军备竞赛的重要原因。在冷战时期，美苏双方有能力衡量彼此的核军备能力，却无法判断彼此的核军备意图，只能通过旷日持久的核军备竞赛来维持“恐怖的平衡”。对于发展自主武器技术的各国而言，不但难以洞察对方的军备意图，而且难以准确评估对方发展自主武器的军备能力。由于自主武器与半自主武器的区别在于软件而非硬件，这意味着很难从设备层面核查特定国家是否在发展真正意义上的完全自主武器。更进一步说，自主武器系统所拥有机器学习能力的不确定性，加之参战规则的可变性，导致了自主武器系统作战能力的不透明性。军备意图的不透明性与军备能力的不透明性双重叠加，导致更多不信任与误判行为的出现，由于担心被其他国家赶超，各国可能会在自主武器系统研发上投入更多的资金，导致自主武器军备竞赛的不稳定性进一步加大。

国际社会对自主武器应用后果的认知差异，影响军备控制的进程。军备控制的成功与否还取决于国际社会对于两方面因素认知的综合考量：一方面是对武器军事应用价值的认知，另一方面是对于武器使用所造成严重后果的认知。具体而言，如果人们认识到一种武器的应用价值有限但使用会造成可怕后果，那么，针对其实施军备控制的成功可能性较大；反之，一旦某种武器能够起到决定战争进程的关键作用，即便其军事应用可能带来大规模杀伤性后果，实施军备控制的成功可能性仍然很小。

当前，世界主要军事强国对于自主武器系统潜在的军事价值已经形成普遍共识，纷纷将研发和部署自主武器系统摆在了国防科技和武器装备发展的战略高度，全球范围内自主武器系统的军备竞赛日渐激烈。然而，对于自主武器系统的军事应用是否会造成灾难性的后果，各国在认知层面存在较大的分歧：一方面，美俄等国从巩固其技术先发优势的立场出发，提出自主武器系统具有人类战士无可比拟的优越性。有学者认为，自主武器系统无需考虑自身安全，不受主观情绪左右，具有更快的信息处理速度，因而能够更好地履行道德规约，使战争变得更人性化。 2018 年 3 月，美国在向联合国政府专家组会议提交的文件中指出，“致命性自主武器系统领域的新兴技术可以提高国家运用武力时降低平民伤亡风险的能力……较之压制或禁止致命性自主武器系统领域新兴技术的做法，美国选择鼓励相关领域技术创新。”另一方面，联合国、国际红十字会和一些技术后发国家基于潜在的安全风险指出，摆脱人类控制的自主武器系统将使得战争更加冷血。2018 年 11 月 11 日，联合国秘书长安东尼奥·古特雷斯在纪念第一次世界大战结束 100 周年的巴黎和平论坛上指出：“一旦致命性自主武器系统具有夺取人类生命的权力，这在政治上是不可接受的，在道德上是令人反感的，应受到国际法的禁止。”当前，两种观点争锋相对，很难在短期内达成共识与一致。

对自主武器应用后果的认知分歧在一定程度上迟滞其军备控制进程。虽然早在2014 年，联合国在瑞士日内瓦召开“特定常规武器公约会议”（CCW）中就开始探讨自主武器系统的军备控制问题，但是直到 2017 年 11 月才召开了第一次“致命自主武器系统”的政府专家组会议，且主要职责是界定自主武器的内涵与范畴，并未授权商讨签署多边军控条约的可能性。

五

中国如何维护自主武器系统的战略稳定性

习近平总书记在致信祝贺 2018 世界人工智能大会开幕时强调：“处理好人工智能在法律、安全、就业、道德伦理和政府治理等方面提出的新课题，需要各国深化合作、共同探讨。”自主武器系统引发的安全风险与战略稳定性挑战是一个全球性问题，需要中国与全球各个国家一道共同努力。中国应当积极作为以应对自主武器系统导致的战略稳定性风险，向全世界展现负责任大国的良好形象，维护和巩固中国和平与发展的稳定外部环境。

（一）在联合国框架下维护自主武器系统的战略稳定性

自主武器系统是现代科学技术手段应用于军事领域最前沿、最典型的体现，围绕其功能、作用以及潜在风险的认识存在较大分歧，不同行为主体基于自身利益诉求、认知观念、战略谋划和权力地位差异，对维护自主武器系统战略稳定性持有不同立场、意见和观点。中国想要在应对自主武器系统对全球战略稳定性的挑战中有所作为，就必须依托联合国这一全球性国际安全机制，在联合国框架下统筹协调中国与世界各国的安全诉求，切实加强国际交流与合作，适时、恰当地推进自主武器系统军备控制和危机管控进程，通过友好协商的方式，就提升自主武器系统的战略稳定性达成最广泛的战略共识，推动相关法律、法规和公约的签署。

坚决维护联合国的核心地位。维护自主武器系统的战略稳定性涉及研制、开发、扩散、部署以及使用等方面多管齐下，以“促进国际合作和实现世界和平和安全”为宗旨的联合国具有其他国际行为主体无可比拟的优势。中国作为联合国安理会常任理事国，必须清醒认识自主武器系统带来的战略稳定性挑战，充分认清其牵涉国家、利益主体范围的广度以及其对全球未来安全格局影响的深度，坚持联合国作为全球性国际安全机构在维护战略稳定性问题上的核心地位，始终在联合国框架下推动自主武器系统军备控制，构建危机管控与升级管控机制。

明确主张由联合国主导自主武器系统的军备控制。中国应当支持并深度参与由联合国下属多部门机构按照职责分工，全方位、深层次介入自主武器系统的军备控制。一方面，依托联合国大会下属的联合国人权理事会这一保护人权的工作平台，中国与世界各国就自主武器系统对人道主义原则和国际人权法的挑战形成广泛共识，成为启动军控磋商的认知基础；另一方面，中国应积极推动和促成联合国日内瓦常规武器公约年度会议作为唯一的自主武器系统多边军控谈判机构，呼吁将自主武器系统列入专题单元，努力推动自主武器系统军控谈判由政府专家组会议上升到政府间谈判。依托联合国汇集国际社会合力，共同阻止当前自主武器系统军备竞赛通向完全自主阶段的潜在趋势，争取签署具有法律约束力的预防性多边军备控制协议。另外，中国应当支持联合国设立自主武器系统的专项核查机构，借鉴联合国国际原子能机构的职能设置和工作机制，建立自主武器系统的国际审查机制。中国可以组织专家学者定期为联合国提供自主武器装备、作战手段以及所涉及的材料设备的分析报告，评估其对于战场毁伤、法理、伦理乃至全球战略稳定性的潜在威胁，积极参与围绕自主武器系统的国际核查行动，确保全球自主武器研发和部署的合法性和人道性。

促进联合国在危机管控和升级管控中发挥更大作用。中国作为联合国安理会常任理事国，应当积极推动在联合国安理会设置特别安全评估小组，围绕自主武器系统可能引发“意外战争”“意外升级”的不可控风险，搜集各国自主武器研发、部署和使用方面的最新信息，进行有针对性地调查研判，就全球自主武器系统对危机稳定性的潜在影响定期提供风险评估报告。同时，中方应充分考虑自主武器系统可能导致国际危机中决策加速的特性，适时推动在联合国安理会框架下构建自主武器危机管控的应急机制，制定计划以应对突发情况下使用自主武器攻击或侵略的行为。一旦部署使用自主武器系统导致国际危机爆发，中国应当第一时间支持并参与联合国安理会展开的危机管控行动，斡旋、协调各方立场，必要情况下，为帮助缓解紧张局势，中国可以在联合国安理会委派下派遣军事观察员或派驻维和部队，避免危机加速升级和冲突扩大化的风险。

（二）积极参与构建国家层面的战略互信机制

中国应当与拥有自主武器技术的主要国家进一步深化交流合作，与各国就自主武器系统的安全威胁与潜在风险达成广泛共识，通过组织和参与官方与非官方对话、协商、谈判以及热线交流等多种形式，努力构建战略沟通与危机管控机制，推动达成维护自主武器系统战略稳定性的协议、条约以及法律条文。

达成战略共识。当前，面对世界各国竞相加速发展自主武器系统的现状，中国应在国际社会呼吁各国吸取美苏核军备竞赛的历史教训，充分认清放任自主武器系统发展的不确定性前景以及其对国际安全的巨大威胁，敦促各国共同提出维系全球自主武器系统稳定性的要素、条件和框架。在维护军备竞赛稳定性方面，中国应当明确主张将自主武器研发置于严密的国际监管之下，并与各国一道共同致力于增加研发进程的透明度。同时，中国应向掌握自主武器技术的主要国家发出倡议，充分认清恐怖分子、黑客组织掌控自主武器技术对于全球安全的共同威胁，严控关键技术、关键设备向恐怖组织扩散的风险，共同构筑自主武器技术扩散的全球监控网络。在维护危机稳定性方面，中国应在国际社会上旗帜鲜明地阐明立场，敦促各国确立使用自主武器系统的底线意识，全面评估本国自主武器系统部署和使用过程中的安全性与可靠性风险，确保将自主武器技术的军事应用置于人类可以控制的范围之内，杜绝危机自动爆发和自动升级的潜在风险。

密切战略沟通。当前，国际社会对于自主武器系统能力和使用意图存在巨大认知差异性和不透明性，中国可以为进一步密切战略沟通贡献力量。一方面，中国可以充分利用“香山论坛”“香格里拉对话”等交流平台，推动“自主武器系统与战略稳定性”成为全球性、区域性安全对话的重要议题，组织专家学者和官员从技术、战略、经济、外交等多维视角，广泛探讨维护自主武器系统对全球战略稳定性的冲击与挑战，积极发声以敦促各国限制和管控自主武器研发、部署行动，避免因信息沟通不畅而导致的战略误判。另一方面，在未来可能出现的区域安全危机中，中国应当充分评估自主武器系统速度优势导致危机快速升级的潜在风险，将自主武器的稳定性作为中国与其他大国领导人热线交流的重要内容，以热线交流的直接性、快捷性来确保及时准确的信息沟通，避免因战略误判而导致危机进一步升级。

形成战略协议。考虑到短期内难以签署具有法律规范约束作用的国际法条文，中国应当积极与美国、俄罗斯、以色列等自主武器技术先发国家开展双边或多边磋商，依据联合国《特定常规武器条约》官方专家组会议所达成的共识，围绕实现自主武器战略稳定性的目标，按照先易后难、逐步深入的原则，形成一系列具有可执行性的软法文书。中国可以尝试通过共同宣言、行为准则、框架公约以及信息共享机制等多样化形式，逐渐与自主武器技术领先国家达成双边、多边战略协定与合作内容，就不使用自主武器攻击核设施、不使用自主武器攻击太空资产、不使用自主武器攻击国家关键基础设施以及禁止大规模杀伤性自主武器试验等具体议题达成具有建设性的战略协议。

（三）构建全球治理体系

围绕自主武器系统的研发与应用，已经引发全球性的争议和复杂的国际社会影响。2018 年，在瑞典首都斯德哥尔摩举办的国际人工智能联合会议上，包括特斯拉首席执行官埃隆·马斯克（Elon Musk）、谷歌 DeepMind 三位联合创始人在内的超过 2000名人工智能领域的全球学者共同签署了《致命性自主武器宣言》，禁止参与有关致命性自主武器系统的任何研发工作，这也是全球科学界针对自主武器系统最强有力的一次集体发声。有鉴于此，中国可以尝试充分发动国际科学界、非政府组织以及其他民间社会力量，同心同德、共同致力于构建自主武器系统的全球治理网络。

中国科学家特别是 AI 领域科学家可通过非官方方式发出倡议，呼吁全球自主武器技术专家遵循科研伦理，充分履行研发者的主体责任。具体倡议内容可以体现为：做好前瞻性风险评估，敏锐洞察人工智能技术军事应用可能带来的危害与挑战，严格限制自主武器系统的杀伤能力，通过设置道德代码和伦理嵌入等方式，按人类伦理道德原则规范机器人作战行为；坚决抵制完全自主式“杀手机器人”的研发和应用，从技术层面彻底消除机器人具有自我意识后毁灭人类社会的潜在可能，始终保证人类牢牢掌握人机关系的主导权，紧守人类掌控“开火权”的安全设计底线。

中国可以尝试与“国际人工智能联合会议”“杀手机器人禁令运动”“未来生活研究所”等具有较大影响力的非政府组织展开密切合作，引导上述组织在自主武器系统的全球治理中发挥积极作用：中国科学家可以与“国际人工智能联合会议”等 AI 领域的知名科技专家团体合作，通过全球门户网站、主流媒体和社交网络等渠道，开展关于自主武器系统风险性知识的科学普及，发起禁止研制和部署“杀手机器人”的全民倡议，赢取民众对于自主武器系统全球治理的广泛支持；中国战略研究专家可以与国际智库合作，密切关注自主武器研发前沿进展，利用智库专业优势提供战略咨询报告，定期就自主武器系统研发与部署的潜在风险发出预警并提供对策咨询；中国国内的非政府组织可以与“杀手机器人禁令运动”“未来生活研究所”等组织合作，通过请愿、游行以及媒体发声等方式，营造国际舆论压力，敦促相关国家加快构建风险防控机制，推动禁止研发和部署“杀手机器人”等致命性自主武器系统的国际立法。

数字经济智库

政治学与国际关系论坛

为了更好的服务数字中国建设，服务“一带一路”建设，加强数字经济建设过程中的理论交流、实践交流。来自中国数字经济以及“一带一路”建设领域的专家学者们成立了数字经济智库，为数字中国的建设添砖加瓦。商务部原副部长魏建国担任名誉院长，知名青年学者黄日涵、储殷等领衔。政治学与国际关系论坛是数字经济智库旗下的专门平台。