为何不能将战场射杀权交给智能机器人

近日，来自全球各地的超过五十名人工智能与机器人专家齐聚一堂，共同关注韩国科学技术院大学与军工企业韩华Systems共同研发的一项创新技术。据这些专家警告，他们所研发的自主武器系统，拥有无人控制下搜索并消除目标的能力，一旦研发成功，可能会加剧战争风险并造成无法挽回的后果。面对这样的警示，专家们纷纷表示强烈反对，要求韩国方面立即停止此项研究。

今年四月份，联合国特定常规武器公约专家小组在日内瓦召开会议，专门讨论“机器人”的潜在威胁。此项议题与韩国科学技术院大学的计划紧密相关。回溯至去年二月，该大学成立了国防人工智能融合研究中心，致力于飞机训练、物体追踪与识别、大型无人潜艇等军事人工智能技术的研发。仅仅十月，韩国国防部就宣布计划在不久的将来将这些尖端技术投入实战应用。

与此美国军方也不甘落后。早在去年四月，他们推出了Maven项目，旨在借助人工智能技术处理海量的视频资料。美国国防部每天都在收集来自全球各地的视频信息，然而人类图像分析师难以应对如此庞大的工作量。国防部决定与谷歌等科技巨头合作，利用人工智能技术进行高效分析。尽管国防部强调Maven项目只是作为人类情报分析的合作伙伴存在，完全遵守法律和战争法规定，但在部署过程中仍有人担忧人工智能可能会产生重大失误导致致命后果。这种担忧促使谷歌的数千名员工站出来发声，要求公司退出Maven项目，并承诺不会参与任何可能用于战争科技的计划。

随着技术的不断进步，人工智能在军事领域的应用越来越广泛。无论是无人机、无人战车还是智能机器人等都在迅速发展。这也引发了科学家和公众的担忧。自主武器系统的发展状况和未来趋势引起了广泛关注。尽管美军很早就开始使用机器人参与作战，但在实际使用过程中仍然保持着人类的控制权。“开火”等重要决策始终由后方人员掌控。当前的自主武器系统主要是指具有自主决策权的指挥控制系统和具有战场“射杀权”的智能机器人。目前智能指挥控制系统仍处于辅助人工决策阶段，并未将最终决策权交给智能系统。而智能武器系统也尚未达到可以完全自主“射杀”的程度。即便韩国已经开始着手研发自主武器系统并计划在未来投入实战使用，美国军方在对待人工智能在军事领域的应用上仍表现出相对谨慎的态度。尽管如此，著名科学家霍金对人工智能的军事运用前景表示高度警惕，并警告称除非做好准备并避免潜在风险，否则人工智能可能会成为人类文明史上最糟糕的事件之一。这里所说的“致命的自主武器”，就是具有自主“射杀权”的智能武器系统——“机器人”。避免风险的关键并不在于技术本身的发展速度，而在于人类的决策和道德的考量。智能武器系统面临的技术挑战与道德困境

智能机器人，作为情报收集、处理与传递的尖端工具，已在战争中展现出其强大的能力。在伊拉克战争及反恐作战中，无人机的卓越表现让人们看到了自主武器系统的巨大潜力。赋予这些机器自主射杀的能力却引发了深度的技术挑战与道德困境。

回顾美军在一次地面作战任务中的经历，尽管智能机器人被用于执行危险任务，但当它们失去控制时，潜在的威胁也随之显现。一台携带武器的智能机器人意外调转枪口，令操作者陷入危险，直到被队友摧毁才得以解除危机。这一事件不仅揭示了技术上的问题，更引发了关于道德和责任的思考：我们是否应该赋予机器生命的决策权？

人工智能在国际象棋和围棋上的胜利，并不等同于其在复杂战争环境中的超越。在这些游戏中，规则明确，易于用数学模型描述，而战争中的决策涉及诸多难以量化的因素，如、法律和国际公约等。例如，《日内瓦公约》对射杀行为有明确的限制，如何确保机器人在实战中严格遵守这些规定，是当前技术面临的挑战之一。

尽管存在技术难题，自主武器系统的研发仍在不断推进。美国和其他一些国家的军事力量已经在这一领域取得了显著的进展。人工智能在军事领域的潜力巨大，但与此对于“机器人”的担忧也在不断增加。一些科学家和国际组织已经发出警告，呼吁禁止在战争中使用自主的致命武器。

面对这一议题，关键不在于技术能否实现，而在于我们是否应该赋予机器这样的决策权。随着人工智能技术的不断进步，我们是否准备好接受与机器人的共生关系？这是一个人类社会需要深入思考的问题。在这个问题上，我们不仅面临技术的挑战，更面临道德的抉择。

智能武器系统的发展既带来了机遇，也带来了挑战。如何平衡技术与道德、责任与利益，是我们必须面对的问题。（作者：吴敏文，国防科技大学信息通信学院）