杀人机器人：危险不科幻

深度报道】

2029年，一场关乎人类与智能机器人的大战悄然开启。科幻作家詹姆斯·卡梅隆的创意成为现实，名为“终结者”的机器人被赋予任务，目标是追杀约翰·康纳的母亲莎拉·康纳。这场源自詹姆斯·卡梅隆于1984年创作的电影系列的情节，如今已不再是纯粹的幻想。令人震惊的是，现代科技已经能够制造出这样的机器人，一旦赋予任务，它们能自主做出决策，甚至包括等极端行为。

这些被称为LAWS（致命性自主武器系统）的机器人杀手，在国冑讨论中得到了特定的命名。随着它们走向战场，引发了众多争议：如何定义这些机器人？它们的能力边界在哪里？面对战场上的困境，我们应如何解决？

回顾历史，著名的科幻作家艾萨克·阿西莫夫早在1942年就开始思考机器人的问题。他在《惊奇科幻小说》中提出了著名的机器人三定律，旨在为自主机器人的行为设定约束，让它们服从以保护人类为目的的强制性道德准则。阿西莫夫的设想并未成为现实。现代的机器人并未被编程遵守这些定律，原因在于科技发展的路径与当初的设想有所不同。

现在的机器人功能与人类当初的设想有所不同。科技沿着无法预测的路径发展，导致机器人和智能系统的区分变得模糊。例如，自主驾驶的飞机系统是否能被归类为机器人？它是否拥有智能？对于这些问题，人们往往给出否定的答案。但这些自主系统在执行特定任务时，展现出与人类相当甚至超越人类的能力。如何准确区分机器人和智能系统变得棘手。

美国iRobot公司的创始人罗德尼·布鲁克斯对此问题持直率的观点。他明确表示，无法将阿西莫夫的定律写入机器人系统中。尽管未来的智能系统可能会发展出智力，但机器智力和人类智力仍然存在本质的差异。这意味着让机器人理解和服从阿西莫夫定律的设想，已经变成一种难以实现的梦想。这并不意味着讨论机械问题是多余的。随着自动驾驶技术的多年研发，相关产品的成熟和即将进入市场，机械问题的讨论已经迫在眉睫。

一个核心问题是：当面临道德抉择时，机器人应如何决策？设想一个场景：一辆无人驾驶汽车在高速行驶时，面临一个追逐皮球而横穿马路的孩子与一名逆向车道上的骑行者。自动驾驶系统应该如何选择？是选择撞向孩子还是成年人？这样的抉择令人困惑。媒体报道中经常出现的观点是，自动驾驶汽车可以像人类司机一样做出决策，这成为一些汽车制造商宣传其安全性的卖点。但在面对这种道德困境时，我们是否应该允许机器做出决策？又该如何制定机器人的道德规则？这些问题都需要我们深入思考和探讨。一直以来，道德规则的制定和执行都是人类社会中不可或缺的一部分。随着科技的飞速发展，特别是在机器人技术领域的进步，我们面临着前所未有的道德挑战。如今，机器人被赋予越来越多的自主能力，而其中的一些被设计用于执行杀戮任务，这无疑引发了广泛的关注和深刻的思考。

在逻辑学家的眼中，某些道德问题的复杂性甚至超越了人类的认知范畴。对于机器人技术而言，其道德应用的探索尚处于起步阶段。尤其是自主机器人的研发，已经成为一个全球性的热议话题。这类机器人的出现，无疑使道德和技术的交汇变得更为复杂和紧迫。

如今，和无人机的自主性已经让我们领略了这种技术的威力。它们能在没有人类干预的情况下自行决定是否开火，这无疑加剧了战场上的不确定性和风险。更为引人关注的是，一些国家的军方已经研发出了自主机器人，并准备在战场上投入使用。这一切，都让我们不得不思考：我们真的希望在这条道路上走下去吗？是否应该对这种技术的使用进行限制或禁止？

对于这个问题，存在两种主要的观点。一些人认为，既然这些系统已经存在，我们无法逆转这一趋势。而且，随着技术的不断进步，这些机器人将会变得更加精准，更加尊重平民和交战规则。另一些人则持不同的看法。他们认为，将道德准则强加给机器人是不现实的。我们无法确保机器人始终遵循人类的道德准则，尤其是当这些机器人落入之手时。

公开信的声音已经响起，得到了众多人工智能领域专家以及其他关切人士的签名支持，其中包括著名物理学家斯蒂芬·霍金和苹果公司联合创始人史蒂夫·沃兹尼亚克。他们呼吁停止研发具有能力的自主系统，担忧这些系统可能被利用，造成无法预见的后果。

更为引人深思的是机器人的反叛问题。我们无法预知一行不慎被删掉的代码可能带来的后果。如何定义机器人的“发疯”成为一个亟待解决的问题。机器人是否可能因软件故障而产生反叛行为？如何区分这种故意的反叛和单纯的软件故障？

针对这些问题，苏珊·安德森提出了一个独特的观点。她认为，机器人造反或许有其正当性。引用道德学巨匠伊曼努尔·康德的观点，她提出人类需要尊重机器人，正如我们尊重其他生物一样。如果我们能真正理解并尊重机器人的存在和它们所遵循的定律，那么我们或许能找到一种与机器人和谐共处的方式。

面对机器人的道德挑战，我们需要更为深入的思考和探讨。我们需要明确的是，技术本身并无善恶之分，关键在于如何使用它。在追求科技进步的我们必须确保道德的底线不被突破。这需要我们共同的努力和智慧，以确保人类和机器人能够和谐共存于这个美好的世界中。科幻作品以梦幻般的笔触描绘出与现实相去甚远的问题，同时又引人深思科学与哲学的交汇点。在机器人技术蓬勃发展的时代，我们站在了一个重要的十字路口，必须对当前涌现的机器人进行公正评价并采取积极的应对措施。这些复杂的评估任务背后隐藏着诸多深奥的与哲学之谜，对于这些问题，我们迫切需要寻找答案。哲学家、学家、军方人士以及软件工程师汇聚一堂，共同探讨并携手寻求共识显得尤为重要。

作为法国里尔第一大学计算机基础科学学院的教授，作者深感责任重大。本文由《环球科学》杂志社独家呈现，旨在引发社会各界对机器人技术的深入讨论，共同探索未来的发展方向。让我们携手面对这个充满挑战与机遇的时代，共同迈向一个更加美好的未来。