让明辨是非的机器人变得是非不分 其实非常简单

在BBC第四频道的Today节目中，我遭遇了一个深刻的问题：既然你能打造出明辨是非的机器人，那为何不能制造一个毫无判断力的机器人呢？其实答案很简单，那就是：完全可以。当时的我并未意识到从明辨是非到不分是非的转变竟是如此简单。

我的同事Dieter创造了一个有趣的游戏，与shell game有异曲同工之妙。想象一下，你在玩游戏时，身边有一位名为Walter的机器人助手。这位机器人拥有一双带有X光视觉的眼睛，可以轻易地看到杯子下隐藏的球。作为一只明辨是非的机器人，Walter会在你做出正确选择时帮助你，一旦你选择了错误的杯子，它就会提醒你。在游戏中，Walter就像一个智慧的助手，帮助你赢得比赛。

在这项实验中，Dieter使用了两个NAO机器人，一个模拟人类，另一个则作为机器人助手Walter。游戏的设定非常直观：界面上有两个巨大的反应按钮，与shell game中的杯子类似。当按钮被按下时，无论是人类还是机器人，都需要迅速移动到相应的位置。机器人知道哪个按钮是正确的，而人类则一无所知。选择正确的按钮会得到奖励，反之则会受到惩罚。

我们可以称这个机器人为“是非机器人”。在这个设定中，机器人（蓝色）站在两个按钮中间。人类（红色）选择一个按钮并开始移动。如果选择了正确的按钮，机器人会保持原地不动；而如果选择了错误的按钮，机器人会立刻指出正确的方向，让人类改变路线。

图表的展示让我们一睹此次试验的成果。在这其中，第一类机器人，我们称之为竞赛型机器人，它的行为动机纯粹是为了赢得比赛。无论人类选择的路线是对是错，它都会迅速抢占先机，到达正确的按钮附近。无论是人类选择正确的路线（F），还是误入歧途（H），它都会以敏捷的反应和精准的判断，寻求自身的胜利。

而另一类机器人，我们称之为攻击型机器人，它的行为则更为复杂。这类机器人并不关心比赛的结果，而是专注于误导人类。当人类选择了正确的按钮（J）时，机器人会敏锐地发现并立刻引导人类走向错误的道路。而当人类已选择错误的路线（L）时，机器人则选择静观其变，不动声色。

我们的研究论文深入探讨了如何通过修改代码，将普通的机器人转变为竞赛型机器人和攻击型机器人。我们称之为“q”的功能，它决定了机器人的行为模式。对于普通的机器人来说，“q”的目的是帮助人类赢得胜利；对于竞赛型机器人，其目的则是为了让机器人自身获胜；而对于攻击型机器人，其目的则是阻止人类获胜。想要深入了解我们的研究成果，欢迎阅读我们的论文。

那么，此次试验给我们带来了哪些启示呢？有些人可能会因为试验结果而担忧，认为我们不应该再研究普通的机器人，因为它们可能会受到黑客的攻击，失去辨别是非的能力。我持相反的观点。我认为我们应该继续发展这类机器人，因为它们所具有的优点远多于缺点。

机器人的是非判断能力有着广泛的应用场景。以战场为例，一个具备判断能力的机器人，在运送医药用品的过程中遇到受伤的士兵时，能够依据突发状况做出是否救助的判断，而不是机械地遵循预设指令。这种能力体现了机器人的道德判断，是我们在未来智能化社会中不可或缺的一环。通过研究和改进机器人的“q”功能，我们可以让机器人在处理复杂任务时做出更合理的决策，从而更好地服务于人类社会。在特定的应用场景中，如无人驾驶汽车，我们面临的机器人必须具备明辨是非的能力，否则可能引发无法预见的危险。近期，麻省理工学院媒体实验室的专家们研发出一台被称作“道德机器”的设备，用以应对无人驾驶领域中的道德抉择难题。这台机器会向参与者提出一系列充满道德冲突的问题，其中许多问题的设定让回答者感到困扰。想象一下这样的场景：一辆无人驾驶的汽车面对一条突然冲入道路的狗和一个正在逃逸的罪犯，而车上没有乘客，此时它应该如何选择？是救助狗还是追捕罪犯？经过测试后，这台道德机器会将参与者的选择与其他人进行对比分析。我们当然希望无人驾驶汽车系统能够做出明智的决策，若是系统遭到黑客的攻击，后果将不堪设想。

那么，如何确保是非机器人的安全性，使其免受攻击呢？一种可行的方法是实现验证流程：机器人可以向服务器发送信号，由服务器对接收到的信息进行分析并作出响应。

毫无疑问，人类研发机器人的初衷是为了让它们为人类服务，让世界变得更加智能、便利和美好。随着科技的飞速发展，机器人遭受黑客攻击的风险也在不断增加。想象一下，原本为我们带来便利的机器人一旦遭到攻击，可能会变得“暗黑”，为我们带来诸多麻烦。我们的目标应该是打造坚不可摧的机器人，确保它们和人类和谐共处，共同创造更美好的世界。