塔夫茨大学教授：为了机器人好，我们应该教它

机器人的人性化决策：当原则遭遇命令

做人要有底线，有些不能做的事情，即便面对的是上司的要求，也必须坚守。那么，当我们把这种思考放在机器人身上时，它们是否也应无条件服从人类的命令呢？大部分人的第一反应可能是，机器人不就该服从人的指令吗？但深入一想，如果我们对机器人发出不合适的命令，它们是否也应该有拒绝的权利？

让我们来看几个真实的场景：

在家中，一位专门照顾老年人的智能辅助机器人可能会面对老人重复的无用功要求，如一天洗多次同一件衣服；或是家中的孩子把机器人当作玩具，命令它做出危险动作，如往窗外扔东西；甚至，学生可能会完全依赖机器人来完成作业。这些情境虽然不至于造成严重后果，但如果有人恶意利用机器人犯罪，后果将不堪设想。

那么，人类该如何避免因机器人的服从性而带来的潜在风险呢？当机器人被要求执行可能带来伤害的任务时，应该如何选择？是停滞不前还是拒绝执行？最好的答案可能是机器人应具备自主决策的能力。

在实验室中，科学家们已经开始着手开发一种基于人类命令的机器人控制系统。这个系统可以让机器人在面对不合适的命令时，基于道德和法律原则拒绝执行。教授机器人道德和法律并非易事。因为机器人的决策需要基于大量的背景知识，并要衡量其行为可能带来的后果。不仅如此，机器人还需要理解人类指令的意图，区分善意的指令和恶意的欺骗。

在管理机器人方面，我们虽然有一个通用法则：“如果任务可能造成伤害，机器人可以拒绝执行。”但这远远不够具体。我们必须为机器人设定详细的责任和权限，让它们明确知道在何种情况下可以说“不”。

机器人的“大脑”中必须融入法律、道德和人类礼仪。这样，它们才能聪明地拒绝那些错误的指令。虽然现有的技术还无法让机器人完全具备这样的能力，但我们应该从现在开始就明确一个观念：机器人有权说“不”。

未来，随着技术的不断进步和人工智能的日益成熟，我们可以预见的是，机器人将在更多的领域与人类互动，并基于其自身的决策能力为人类带来更多的便利和安全。而当人类的指令与道德、法律相冲突时，机器人应该具备拒绝执行的能力。这不仅是技术的挑战，更是我们对人工智能的深刻思考和。