美国军事人工智能发展及其安全问题的思考

美国人工智能战略深度解读：军事领域的蓬勃发展

随着全球第四次工业革命的浪潮，人工智能作为核心驱动力正深刻影响着各个领域。特别是在美国，人工智能的发展已经上升为国家战略，特别是在军事领域。

早在2020年初，美国海军就已发布《人工智能技术安全性》报告，聚焦这项技术所带来的安全挑战。实际上，不仅仅是海军，美国整个国防部系统都在严肃对待军事人工智能的发展。从2019年的多个时间点看，美国已经陆续发布了《国防部人工智能战略》、《国家人工智能战略》以及《空军人工智能战略》三大核心战略。这标志着美国在国防、国家乃至军种层面的智能化战略已全面启动。不难看出，美国军事领域的人工智能发展势头迅猛，竞争态势日趋激烈。

一、战略规划引领，聚力发展人工智能

美国对人工智能的发展给予了前所未有的重视。为了推动这一技术在社会各个领域（尤其是国防领域）的应用，从国家战略层面进行布局。世界经济论坛发布的国家人工智能战略框架白皮书为美国及其他国家制定人工智能战略提供了指导。在此基础上，美国多措并举，把发展人工智能技术作为提升国力和维护国家安全的重大战略。

从2019年开始，美国的科技政策办公室发布了一系列政策和战略，包括《维持美国在人工智能领域的领导地位》行政令、《国防部首个人工智能战略》等。这些战略不仅提出了美国在人工智能领域的发展目标和重点领域，而且强调了整合资源、聚力发展人工智能的重要性。美国空军和能源部也相继推出了一系列计划，旨在提升在数据管理、信息技术架构和业务运营方面的能力。这些举措都充分展示了美国在军事领域发展人工智能的决心和行动。

二、海军聚焦技术安全性

在军事领域中，海军的技术应用尤为引人关注。美国海军分析中心发布的专题报告《人工智能技术安全性——对海军的行动方案建议》深入探讨了军事领域人工智能技术运用过程中的安全性问题。该报告不仅介绍了当前公众对这一领域的关注焦点，还为海军乃至整个国防部系统提供了在军事领域采用新兴技术手段的总体思路。这无疑为美国海军在军事人工智能领域的发展提供了重要指导。

美国在军事领域的人工智能发展势头强劲，不仅有多项战略规划的引领，还有各项具体行动的支撑。这一领域的蓬勃发展无疑将为美国的国防实力和科技竞争力带来重要影响。二、军事领域的科技革命：多家机构深入探索人工智能的新战场应用

美国作为军事领域的领导者，一直在寻求通过人工智能（AI）技术提升军事能力的新途径。参议院军事委员会在举行的一场听证会上，深入探讨了人工智能在军事领域的应用及其重要性。美国国防预先研究计划局（DARPA）、国防创新小组（DIU）以及国防部联合人工智能中心（JAIC）等机构纷纷展现了其人工智能项目的进展和未来的发展方向。这些努力旨在加速人工智能的化步伐，并推动美国在科技领域的领先地位。

DARPA作为其中的佼佼者，正在将研发和投资的焦点转向第三代人工智能技术，专注于创建能在特定语境下进行推理的机器。该机构资助的多个项目，如终身学习机器（L2M）、可解释人工智能（XAI）和机器常识（MCS）等，都在探索提高人工智能的技术水平，以实现更高级的语境推理能力。DARPA坚信，将这些技术集成到与军事作战人员合作的军事系统中，将有助于在复杂的战场环境中做出及时决策，处理海量信息，并使用无人系统安全自主地执行关键任务。

除了DARPA，美国的其他军事机构也在积极开展人工智能项目。美国陆军研究实验室（ARL）的异构战术环境中的分布处理（DPHTE）计划，以及美国空军研究实验室的多域战和目标定位支持信息分析项目等，都在致力于开发基于人工智能的新技术，以应对复杂的军事挑战。这些项目的实施，展示了美国军方在人工智能领域的广泛布局和深厚实力。

三、人工智能发展的道德准则与安全保障

随着人工智能技术的飞速发展，人权、隐私保护、歧视偏见、安全问题等困境逐渐凸显。美国在推动人工智能发展的也在积极探索确保人工智能在充分的监督和控制下发展的途径。

美国军方和相关机构深知，要确保人工智能技术的健康发展和广泛应用，必须重视其道德准绳和安全边界的建构。他们通过制定严格的道德准则和安全标准，确保人工智能技术在军事领域的应用不会侵犯人权、侵犯隐私，也不会引发歧视和安全问题。他们也在积极探索新的技术手段和方法，以加强对人工智能的监控和管理，确保其在实际应用中的安全性和可靠性。这种平衡和努力，为人工智能的持续发展提供了坚实的道德和安全保障。

美国在军事领域的人工智能研发和应用上，不仅走在世界前列，还在积极探索确保人工智能技术健康发展的途径。这种科技革命不仅提升了美国的军事能力，也为全球的人工智能发展提供了宝贵的经验和启示。（一）确立人工智能在军事领域的道德基石

美国一直在积极推进人工智能的研究，并努力阐明其在合法道德范围内的使用愿景和指导原则。这一行动的背后，是引导负责任的人工智能应用和开发的重要意图。早在2019年1月，美国国防部就要求国防创新委员会制定在战争中使用人工智能的道德原则。这一行动旨在确保军方在战争中使用人工智能技术和武器时遵循明确的道德指导，并向硅谷科技公司明确其人工智能产品的使用方向。此举也被看作是美国在全球范围内建立人工智能规范的指导方针，并吸引硅谷科技公司参与防御工作的关键步骤。随后的《人工智能原则：国防部人工智能应用的若干建议》报告，被视为美国对军事人工智能应用引发问题的首次正式回应。与此布鲁金斯学会的报告也强调了自动化和人工智能对行业、就业、地理和人口的影响，并提供了针对未来的趋势预测，为政策制定者提供了理解和规范自动化和人工智能的参考框架。

（二）军事领域的新兴技术——人工智能与安全性考量

历史上，军队曾多次利用技术手段取得军事优势。从战车、到内燃机的应用，每一项新技术的出现都改变了战争的形态和范围。如今，人工智能技术的崛起也被视为一种颠覆性的力量，能够深刻影响战争活动的效能与效率。不同于以往的技术手段，人工智能技术在军事领域的应用具有其独特性。

现实世界中的人工智能技术应用往往是针对特定问题的狭义解决方案，而非具备普遍通用性的技术。在军事领域应用人工智能技术与美国军队运用等关键性技术时需要考虑的安全性问题是相似的。必须高度重视并严格掌握这些关键性技术领域的知识，确保其在文职机构的掌控之下。

作为军事领域的新兴技术，人工智能的安全性不容忽视。从的历史经验中我们可以得知，关键性技术的安全掌握对于战争的走向具有决定性影响。在推动人工智能技术在军事领域的应用和发展的我们必须始终牢记道德、隐私和安全的重要性，确保这一技术力量在尊重道德、重视安全的前提下，最大限度地发挥其社会效益。（三）赋予人工智能技术的信任需恰到好处

人工智能技术安全性背后，隐藏着对其的信任问题。美国军方在运用人工智能时面临一大难题：军方人员及高层能否信任这些系统的高效与安全。国防科学委员会的研究报告明确指出，决策者在特定任务中部署系统时，必须对该系统建立充分的信任。

在伊拉克与阿富汗的实战中，指挥官与战斗人员在不完全了解系统后果的情况下，往往会回避使用新技术。当面临战场紧急需求时，尽管新系统如反简易系统或监视系统看似更为先进，但部队仍倾向于依赖熟悉的武器与情报平台。这显示了对人工智能系统的信任缺失可能阻碍技术的实际应用。

另一种极端是过度信任。人类往往盲目信任机器，即便面对反例。如陆军“爱国者”防空导弹系统的误判事件，操作人员在没有独立核实信息的情况下，盲目遵循了系统的建议。这表明，对人工智能的信任需恰到好处，避免盲目信赖或过度怀疑。

（四）军事人工智能的安全问题将纳入政策考量

军事行动的决策不仅仅局限于战场上的指挥，高层和军方领导也通过政策方针来引导军事技术的使用方向。这些政策不仅规定了技术手段的使用范围，更反映了对军事技术的信任程度。例如，《国防部第3000.09号指令》要求对自主控制系统进行严格审查。《总统政策指导》明确了某些反恐行动的批准原则，确保军事行动符合美国的原则和价值观。这些政策背后的考量，是对军事人工智能安全性的重视。值得一提的是，《国防部第3000.09号指令》旨在避免平民伤亡等意外交战事件的发生，体现了对安全性的高度重视。限制某些武器的使用也是为了减少平民的伤亡风险。军事人工智能的安全问题将被纳入政策考量，以确保技术的合理使用和军事行动的安全性。（五）军方与业界的携手：解决安全问题刻不容缓

随着人工智能技术的飞速发展，美国对于业界的依赖性日益增强。从二战至今，一直依赖自身的研发资金来推动技术进步。但在人工智能领域，私营机构的研发投资已逐渐占据主导地位。科技行业的研发支出在过去十年里急剧增长，如今已经显著超过了的投入。对比图1中的美国与科技行业前五强（亚马逊、谷歌/阿尔法控股、英特尔、微软、苹果）的研发投资数据，差距更是惊人。八年前，企业研发支出是的六倍，如今这一数字已飙升至十五倍。这种变化意味着，美国在与私营企业合作解决技术问题上，必须寻求更多的支持与协作。尤其在人工智能技术的安全性问题上，由于军事应用的重要性和复杂性，更需要业界的深度参与。近期，谷歌等公司开始对军事领域的AI应用进行审查，这一转变强调了与业界协作解决AI安全问题的迫切性。这种合作不仅是必要的，更是推动美国保持技术优势的关键所在。

图1：美国与私营科技企业的研发投资对比图

关于美国军事人工智能的未来发展趋势，我们可以预见以下几点：

人工智能技术的等级划分包括弱人工智能、强人工智能和超人工智能。预计强人工智能将在本世纪中期前问世。美军在智能化建设上预计会经历三个阶段：

在接下来几年内至2025年，美军将致力于构建智能化军队的基本框架，处于弱人工智能阶段。在这一阶段，美军将围绕全球监视打击体系进行建设，重点在于升级多个领域的作战系统，突出无人化、隐身化等技术的发展。无形、无人、隐形等力量将成为美军的主要干预手段。自主无人系统将在前沿作战中发挥重要作用。安全性问题将逐渐成为未来高层领导人在人工智能军事应用方面考虑的关键因素之一，这也预示着未来在指导与指令内容中将会明确涉及安全性问题的相关指导原则。在未来的岁月里，美国正致力于构建一套高度智能化的作战体系，旨在提升其军事技术的领先地位。据预测，到 2035 年前，美国的智能化作战体系将初步建成，总体水平迈入强人工智能阶段。在这一重要阶段，美军正通过发展智能化作战平台、先进信息系统和决策支持系统等技术手段，对主要对手形成显著的军事优势。美军还将重点投资于无人系统，其建设规模及作战运用均处于主导地位。

展望未来，到 2050 年前，美军的智能化作战体系将变得更加先进和完善，总体水平达到超强人工智能阶段。在这一阶段，美军可能会在强人工智能、通用量子计算、可控核聚变、纳米机器人、再生、创生、脑联网等关键技术领域取得重大突破。随着这些技术的飞速发展，作战平台、信息系统以及指挥控制将全面实现智能化和无人化。更多样化的新型武器，如仿生、基因、纳米武器等，将走上战场。作战空间也将进一步拓展至生物空间、纳米空间、智能空间等全新领域，人类或将迎来“机器人战争时代”。

在这一系列技术革新和军事变革的推动下，美国的军事力量将得到空前提升，为其在全球范围内的军事行动提供强有力的支持。美军智能化作战体系的建成，不仅将改变战争的形态和模式，也将对全球安全格局产生深远影响。