从根本上说，向人工智能和人工智能辅助武器及防御系统的转变，将导致对智能的依赖。这种智能的运作所基于的经验范式与人类有本质区别，且具备可观的分析潜力。在极端情况下，这种依赖甚至演变为一种授权，可能导致未知的风险。因此，人类操作者必须对具有潜在致命影响的人工智能加以监控，即便不能避免所有错误，至少要保障道德责任和问责能力。

然而，最深层的挑战可能是哲学层面上的。如果战略的分析运作无法再为人类理性所理解，则其过程、范围和最终意义将变得不再透明。如果决策者认为，在揭示现实的最深层模式、了解（可能拥有自己的人工智能的）对手的能力和意图并及时做出应对的过程中，人工智能的辅助已必不可少，那么，将关键决策权下放给机器可能成为必然趋势。各个社会可能会就“哪些决策权可以下放”、“何种风险和后果是可以接受的”等问题，给出各不相同的答案。主要大国应当未雨绸缪，提前就该演变的战略、学说和道德影响展开对话，否则将导致不可逆的影响。国际社会必须做出努力，以限制这些风险。

管控人工智能

在智能体系互相对抗之前，我们必须对这些问题加以考量和理解。随着网络和人工智能能力被用于战略目的，战略竞赛的领域变得更为广阔，从而使这些问题变得迫在眉睫。某种程度上说，网络和人工智能使一切与数字网络相连的地方都成为“战场”。如今，数字程序控制着一个由众多实体系统构成的领域，该领域极为庞大，且仍在增长（某些情况下，甚至连门锁和冰箱都接入了网络）。这催生出一个极其复杂、广泛和脆弱的系统。

对人工智能强国来说，追求某种形式的彼此理解和相互制约至关重要。由于相应系统和能力可以通过计算机代码的变化而轻易地悄然改变，各大政府可能倾向于认为，其对手在战略敏感的人工智能研究、开发和部署方面的步调会比其公开承认甚至私下承诺的更进一步。从纯技术角度来看，让人工智能参与侦察、锁定目标或是展开致命性自主行动并不难，因此，一套相互制约和验证的体系的体系的构建显得既紧迫又困难。

要寻求保障和制约，就必然与人工智能的动态本质相抗衡。由人工智能驱动的网络武器一旦问世，就可能在适应能力和学习能力上远超预期；武器的能力或将随之改变。如果武器能够以某种方式改变，且改变的范围或性质不同于预期，那么威慑和升级的设想可能变得更加扑朔迷离。因此，无论是在初始设计抑或最终部署阶段，都需要调整人工智能的运行范围，以便人类对系统加以监视，在其偏离初始目标时将其关闭或重新定向。为了避免意外、潜在的灾难性后果，这种限制必须是相互的。

无论是限制人工智能和网络能力，抑或遏制其扩散，都非常困难。主要大国开发和使用人工智能和网络的能力，有可能落入恐怖分子和流氓帮派手中。同样，那些没有核武器、常规武器军力也有限的小国，也可以通过投资尖端的人工智能和网络武器，发挥出巨大的影响力。

各国势必会把非连续、非致命的任务委托给人工智能算法（部分由私营实体操作），其中包括执行检测和防止网络空间入侵的防御功能。一个高度网络化和数字化的社会“受攻击面”太大，人类操作者无法仅凭手动实现防御。随着人类生活的许多方面转移到网上，经济也持续数字化，一个流氓网络人工智能就可能破坏整个行业。国家、公司甚至个人都应该着手构建某种失效保护体系，以防患于未然。

这种保护的最极端形式即切断网络连接。对国家而言，离线可能是终极的防御形式。如果排除这种极端措施，那么，能够执行某些重要网络防御功能的就只有人工智能了——网络空间浩瀚无垠，在此可采取的行动选项几乎无穷无尽，因此，除了少数几个国家，这一领域内最重要的防御能力可能是其他国家力所不及的。

除了人工智能防御系统，还有一类最令人头疼的武器——致命自主武器系统。该系统一旦被激活，就可以在没有人类干预的情况下选择目标并实施打击。这类武器的关键问题是人类对其缺乏监督和干预的能力。

与轻武器联接的美国陆军自主远程作战系统（图源：NPR）

一个自主系统“在其指令环路中”的某些行动需要人类授权，或需要一个人“在指令环路上”被动地监控其活动。除非受到可遵守和可证实的相互协议的限制，前者最终可能涵盖全部战略和目标（例如保卫边境或实现针对敌人的特定结果），且无需耗费大量人力。在这些领域，必须确保人类的判断能发挥作用，实现对武器的监督和指导。如果只有一个或少数几个国家接受这些限制，意义是有限的。先进国家的政府应探讨如何以可行的方式进行检查，进而在此前提下实现相互制约。

人工智能的引入，使人们可能为抢占先机而将某种武器仓促投入使用，进而引发冲突。当一个国家担心其对手正在发展自动化军力时，可能会“先发制人”；而如果攻击“成功”了，担忧的合理性也就无法再得到证实或证伪。为防止冲突意外升级，大国应在一个可验证的限制框架内进行竞争。谈判不只包括缓和军备竞赛，还应该确保双方都大致了解对方动向。但双方都必须对一点有所预期（并据此进行筹划）：对方会对自己最具敏感性的秘密有所保留。正如冷战期间的核武器谈判所表明的，国家间永远不会有完全的信任，但这并不意味着无法达成某种程度的谅解。

我们提出这些问题，是为了界定人工智能给战略带来的挑战。界定核时代的条约（以及随之而来的沟通、执行和核查机制）给我们带来了各方面的收益，但并非历史的必然产物，而是人类能动性的产物，是共同承担危机和责任的产物。

对民用和军事技术的影响

传统上，三个技术特性促成了军事和民用领域的分野：技术差异、集中控制和影响规模。所谓技术差异，是指军用和民用技术的区别。所谓集中控制，是指部分技术易于被政府管控，与容易传播、规避政府控制的技术相反。所谓影响规模，则是指一项技术的破坏性潜力。

纵观历史，许多技术都是军民两用的。至于其他技术，一些很容易广泛传播，另一些则具有巨大的破坏力。然而，迄今为止，还没有一种技术同时具备以下三种特性：军民两用、易于传播和潜在的巨大破坏性。运送货物到市场的铁路和运送士兵到战场的铁路是一样的，铁路不具有破坏性潜力。核技术通常是军民两用的，且破坏性巨大，但核设施很复杂，这使政府能够相对安全地控制核技术。猎枪可能被广泛使用，同时具有军民用途，但其有限的能力使持枪者无法在战略层面造成破坏。

而人工智能打破了这种范式。很明显，人工智能可以军民两用；也很容易传播，只需几行代码，大多数算法（除了部分例外）可以在单个计算机或小型网络上运行，这意味着政府很难通过控制基础设施来控制这种技术；其应用具有巨大的破坏性潜力。这种独一无二的特性组合，加上广泛的利益相关者，产生了具有全新复杂性的战略挑战。

人工智能赋能武器，使对手能以惊人的速度发起数字攻击，并极大提高其利用数字漏洞的能力。这样一来，对于即将到来的攻击，一个国家可能还来不及评估就需立即响应，否则就可能被对方解除武装。如果一个国家有相应手段，就可以在对方完全展开攻击之前做出回应，构建一个人工智能系统来预警攻击并加以反击。这一系统的存在，及其毫无预警地实施行动的能力，可能会刺激另一方投入更多建设和规划，包括开发并行技术或基于不同算法的技术。如果人类也参与了这些决定，那么除非各方谨慎地发展出一个共同的限制理念，否则先发制人的冲动可能会压倒谋定后动的需要，就像20世纪初的情况一样。

在股票市场，一些复杂的所谓量化公司认识到，人工智能算法可以发现市场模式，并比最佳操盘手更快地做出反应。因此，这些公司已将其证券交易的部分控制权委托给算法。算法系统所赢得的利润通常远超人类操盘手。然而，它们偶尔会严重误判，误判程度远超最糟糕的人为错误。

一款用于操盘的人工智能算法（图源：Unite.AI）

在金融领域，此类错误会毁掉投资，但不会致人死地。然而，在战略领域，一次类似“闪电崩盘”的算法故障可能引发灾难性后果。如果数字领域的战略防御需要战术上的进攻，那么当一方在此类计算或行动上出错时，就可能在不经意间使冲突升级。

将这些新能力纳入一个明确的战略和国际均势概念的尝试非常复杂，因为技术优势所需的专业知识不再完全集中于政府方面。从传统的政府承包商到个人发明家、企业家、初创企业和私人研究实验室，各种各样的行为体和机构都参与到对这一具有战略意义的技术的塑造过程中，而并非其中所有人都认为其使命应与联邦政府所界定的国家目标保持内在一致。工业界、学术界和政府之间的相互教育过程可以帮助弥合这一鸿沟，并确保各方在一个共同的概念框架内理解人工智能战略意义的关键原则。很少有哪个时代面临过如此局面：一方面，其遭遇的战略和技术挑战如此复杂；另一方面，对该挑战的性质乃至讨论其所需的词汇却鲜有共识。

核时代尚未解决的挑战是：人类发展了一种技术，战略家们却找不到可行的军事行动理论。人工智能时代的困境与之不同：典型技术将被广泛获取、掌握和应用。无论是在理论概念上还是在实践操作中，实现相互间的战略克制，甚至是实现对“克制”的共同定义，都将空前地困难。

即使历经半个世纪的努力，如今对核武器的管控仍不尽完善。然而，评估核平衡其实相对简单：核弹头可以计数，其生产也是已知的。人工智能则不同：其能力不是固定的，而是动态变化的。与核武器不同的是，人工智能很难被追查：一旦经过训练，它们可以被轻易复制，并在相对较小的机器上运行。以目前的技术，对其存在进行证实或证伪，将是极其困难甚至无法实现的。在这个时代，威慑可能来自一种复杂性——来自人工智能攻击能够借助载体的多样性，也来自潜在的人工智能反应速度。

为了管控人工智能，战略家必须考虑如何将其纳入负责任的国际关系模式。在部署武器之前，战略家必须了解使用武器的迭代效应、这些武器导致冲突升级的可能性和谋求冲突降级的途径。负责任地使用策略，再辅以制约原则，将是必不可少的举措。决策者应致力于同时处理军备、防御技术和战略，以及军备控制问题，而不是将其视为在时间上前后不同、在功能上彼此对立的步骤。必须在技术付诸使用前就制定理论并做出决定。

那么，这种制约的要求是什么呢？一个显见的出发点就是以传统强制方式对能力加以制约。在冷战期间，这种做法获得了一些进展，至少在象征意义上如此。一些能力受到了限制（如弹头），另一些（如中程导弹）则被彻底禁止。但无论是限制人工智能的潜在能力，还是限制人工智能的数量，都不能完全符合这种技术在民用领域的广泛应用和持续发展态势。我们必须研究新的限制因素，重点是人工智能的学习和目标锁定能力。

在一项部分预见到这一挑战的决定中，美国对“人工智能赋能武器”和“人工智能武器”进行了划分，前者使人类指挥的战争更精确、更致命、更有效，后者则能脱离人类操作者自主做出致命的决定。美国已宣布其目标是将人工智能使用限制在前一种类别中，并谋求建立一个任何国家（包括美国自身）都不拥有后一种武器的世界。这种划分称得上明智。与此同时，技术的学习和演进能力也可能导致对某些特定能力的限制不足。对人工智能赋能武器的制约性质和制约方式进行界定，并确保约束是相互的，是关键所在。

在19世纪和20世纪，各国逐渐对某些形式的战争进行了限制（例如使用化学武器、攻击平民）。鉴于人工智能武器使大量新类别的军事活动成为可能，或使旧形式的军事活动重获新生，世界各国必须及时界定，何种军事行为有可能背离人性尊严和道德责任。要获得安全，我们就不能只是被动应对，而要未雨绸缪。

与人工智能相关的武器技术带来了这样的困境：对国家而言，技术的持续研发至关重要，否则我们将失去商业竞争力和与世界的关联性；但新技术所固有的扩散天性使迄今一切以谈判促限制的努力付诸东流，甚至连概念也未能形成。