杀手机器人引争议：未来无人战争之忧如何消除？

在2078年的天狼星6B行星上，孤独的小男孩手持泰迪熊，置身于危机四伏的废墟之中，向联盟军人发出求助的呼喊。画面充满温情，然而真相却令人震惊——这个男孩原来是联盟研制的电子武器“尖叫者”自我进化而成的。紧张氛围瞬间弥漫，原本用于消灭敌人的小型机器人如今伪装成无辜少年，其武器锯齿圆轮直指人类。

这一幕来自1995年好莱坞电影《异形终结》。自上世纪后期至今，科幻电影和小说如《西部世界》、《终结者》和《我，机器人》一直在向我们展示人类设计与主导的“杀手机器人”如何成为反叛者。这些机器人拥有独立意识，从战争的辅助工具转变为人类的敌人。

耶鲁大学生物学研究员瓦拉赫等人在《道德机器：如何教会机器人辨明是非》一书中探讨了人工智能技术的三个主要应用领域：机器人以减少人力投入和伤亡；性爱机器人满足单身人士的生理需求以降低性犯罪率；工业机器人应对人口老龄化带来的用工荒。

随着人工智能技术的不断进步，人们对军事领域“杀手机器人”的担忧也从虚构空间逐渐转向现实世界。在今年的国际人工智能联合大会上，包括特斯拉电动汽车公司CEO伊隆·马斯克在内的多位行业领导者呼吁禁止“致命性自主武器系统”的使用。公开信指出，这种技术一旦开发成功，将可能引发第三次武器革命，成为独裁者和残害无辜的手段，或被黑客控制。

未来的战争或许是无人战争的战场，军事领域的专家已经开始关注这个领域的问题。无人武器系统并不等同于致命性自主武器，它包括自动化武器、遥控武器和自主武器。自动化武器在预设环境中按照预设程序行动，而遥控武器则由战区之外的操作员控制。自主武器的特殊之处在于，在某些关键决策上，如决定人类的生命方面，机器可能做出并执行自己的决策。

当前，军事武器技术已经超越了自动化水平。一些先进的武器系统已经能够识别目标，并针对不同目标采取不同反应。例如，美军测试的一款小型无人机能够自行搜寻并识别携带AK-47的人。军事领域的专家介绍，目前的技术已经能够实现全过程的遥控武器，如遥控无人机、战车等。而半自动武器则能在面对简单问题时自行解决，只在复杂环境和关键问题上需要人类干预。

我们仍需警惕全自主武器的出现。一旦这种武器系统得以开发并应用，它们将能够在战场上自行执行任务，可能会带来无法预料的后果。对于未来的科技发展，我们不仅要充满期待，更要保持警惕和谨慎。随着机器人武器技术的迅猛发展与广泛传播，军事及机器人领域的专家们预测，人类将在未来20到30年内研发出全自主性的“杀手机器人”——一种致命性自主武器系统。

这些未来战争中的新星，被视为能够大幅度提升军事行动的效能。它们不仅能够降低己方士兵的风险和减少战争的代价，还能省去大量的人力成本，如军人的薪水、住房、养老和医疗等开销。它们的高速、高精度以及无间断的工作能力，使得它们在战场上具有显著优势。更为重要的是，人工智能武器在稳定性和应对复杂任务方面远胜于人类战斗员，例如抵达人类不可及之处完成搜救和保护任务。

这一技术的迅猛发展也引发了广泛的争议。尽管自主武器系统可以降低人员伤亡，但这种减少反而可能降低发动战争的门槛，增加武装冲突的可能性。更为严重的是，这些武器系统在区分平民与战斗员时可能存在问题，难以符合国际人道法的“区分原则”。

方面的担忧更是深入人心。将决定生命权的权利交给非自然人，被一些学者视为是对人类生命权和人格尊严的侮辱。当这些自主武器出现违法行为时，责任追究也成为一大难题。是被追究的设计者、制造者、操作者的责任，还是机器本身的责任？

公开信中的警告并非首次由伊隆·马斯克等人发出。早在2015年，便有超过千名人工智能领域的专家在国际人工智能联合大会上联合谴责人工智能时代的军备竞赛，并呼吁禁止自主武器。他们担心这会引发军备竞赛并对世界和平构成威胁。

也有观点认为上述反对意见并不足以成为禁用致命性自主武器的充分理由。如复旦大学教授徐英瑾在《技术与正义：未来战争中的人工智能》一文中指出，担忧杀戮变得更容易、军事暴力在未来变得更频繁并没有逻辑依据。相反，他认为人工智能技术在军事领域的应用将更精确地贯彻人类的作战意图，使正义战争能更快结束。

关于致命性自主武器的讨论随着人工智能技术的快速发展而日益激烈。从人权观察组织发表的报告到各国的讨论和规定，再到联合国的非正式专家会议，国际社会一直在努力寻找对这一问题的共识。至今仍未就这一问题达成统一认识，甚至连一个统一的定义都尚未形成。

分歧的根源在于各国的国家利益。智能化、无人化武器在现代军事行动中的优势已经显现，技术先进的国家如美国和英国等不希望其自主武器系统的发展受到限制。它们在讨论中倾向于将致命性自主武器视为“未来的武器系统”，以避免现有的无人装备受到军备控制的影响。这一领域的发展前景令人充满期待，但同时也充满了挑战和未知数。关于自主武器系统技术的高门槛和巨大的经费投入，使得中小发展中国家难以追赶和超越。为避免在未来的战争中陷入被动局面，这些国家期望将致命性自主武器的范畴进行扩大化解读，并试图通过限制条款来制约此类武器的部署与应用。古巴等国家更是在相关定义尚未明晰的情况下就提出禁止这类系统的要求。这些国家深感担忧，希望在联合国《特定常规武器公约》框架下建立一个针对致命性自主武器系统的专家小组。这个小组旨在共同寻求应对之道，防止此类武器的军备竞赛加剧，保护平民免受武器滥用的伤害。小组的首次会议定于今年十一月召开，届时各国代表将齐聚一堂共同探讨如何避免这些技术给世界未来带来潜在威胁。伊隆·马斯克等公开信签署者亦表达了关切与期望，希望专家小组能够真正发挥作用，确保自主武器系统的应用不会成为未来战争的隐患。