兰德报告：机器思维时代的威慑

2020年1月27日，兰德公司网站发布题为《Deterrence in the Age of Thinking Machines》的报告，作者是黄允儿(政策研究员)和约翰M.尤尔恰克(资深信息学家)等9人。报告要点如下

研究的问题

(1)在各国相互发出使用武力及其潜在后果信号的现有作法上增加机器思维和自主系统会产生什么影响？

(2)如果能以机器速度做出决定并由不冒使用国或行为者生命危险的力量做出决定，那么威慑以及态势升级将会如何变化？

(3)这些能力的提高如何削弱或增强威慑力？

(4)哪些领域可能会发生错误估计和意外后果？

全球军事人员越来越多地使用人工智能和自主系统，可能会对威慑策略以及危机和冲突的态势升级产生影响。直到现在，威慑还只是涉及到一些人试图劝阻其他人采取特定行动的作法。当所涉及的思维和决策过程不再纯粹只有人时，会发生些什么？当能以机器速度做出决定和采取行动时，态势会如何变化？人工智能和自主性会如何影响各国现有相互发出潜在使用武力信号的方式？哪些领域可能会出现错误估计和意外后果尤其是意外升级？

本探索性报告初步考察了人工智能和自主系统如何影响常规危机和冲突中的威慑和态势升级。研究结果表明，由于机器的决策速度、与人类不同的理解方式、许多国家使用自主系统的意愿、我们相对缺乏经验以及相关能力的不断发展，机器决策可能导致态势意外升级或威慑动态改变。当前的规划和开发工作并未跟上如何处理与这些新技术相关的潜在不稳定或态势升级等问题的步伐，而规划人员和决策者必须在所部署的系统介入冲突之前就开始考虑这些问题。

重要发现

(1)根据战事推演对人工智能和自主系统的看法

在进行威慑时有人值守系统可能比无人系统更好。

用无人系统代替有人系统可能不会被视为降低了安全承诺。

在冲突期间发出决心和承诺信号时，对抗者会为其系统设置不同的自主性。

在战事推演中，自主系统的速度确实导致了态势意外升级。

(2)对威慑的影响

自主和无人系统可能会对威慑的扩展以及我们确保美国对盟国做出承诺的能力产生影响。

广泛的人工智能和自主系统可能会导致态势意外升级和危机不稳定。

人为和人工因素的不同组合会影响双方的升级动态。

在理解人类发出的与威慑尤其是态势降级有关的信号时，机器可能会变得更糟。

在传统威慑中，主要是一些人试图了解另一些人，而在这个新时代，威慑涉及沿着其它许多路径的理解。

以往自主系统意外打击了友方目标或平民目标的案例，可能有助于深入考察更先进系统的技术事故或故障。

建议

就威慑理论和其它框架开展进一步工作，以明确考虑人工智能和自主系统的潜在影响。

评估新系统的威慑升级潜力。

评估新作战概念的威慑升级潜力。

针对更多的作战和战略层次想定进行战事推演。