机器人身陷伦理困局 道德建设成人工智能艰巨挑战

在科幻作家Isaac Asimov的1942年短篇小说中，他为我们描绘了机器人的三条重要准则，这些准则被视为工程安全措施和内置的道德准则。这三条准则确保了机器人将友善地对待人类，避免机器末日的发生。它们分别是：机器人不得伤害人类，也不能因无所作为而导致人类受到伤害；机器人必须服从人类给予的命令，但前提是这些命令不违背第一条准则；机器人必须保护自身，但这个行为不能违背上述两条准则。

在今年五月的美国布鲁金斯学会无人驾驶汽车研讨会上，专家们开始探讨无人驾驶汽车在面临紧急状况时应该如何决策的问题。例如，当汽车为了保护乘客而突然刹车导致后方车辆追尾时该如何处理？又或者为了避开儿童而急转却撞到了旁边的人怎么办？这些问题引发了关于自动化系统的决策的讨论。

随着机器人技术的快速发展，越来越多的自动化系统在各个领域得到应用，包括卫生保健机器人、军事无人机等。如何确保这些自动设备在关键时刻做出符合的决策，成为了一个重要的挑战。Karl-Josef Kuhn，一位德国西门子公司工程师，在研讨会上提出了这个问题：如何为一个需要在两个看似都合理的选择之间权衡的机器人进行装备？“我们需要明确机器人的决策框架”，Marcello Guarini，一位加拿大温莎大学的哲学家强调道。为此，多个项目正在应对这一挑战，包括由美国海军研究办公室和英国工程资金委员会资助的创新项目。这些项目必须解决如何让机器人进行决策的问题，包括他们需要哪些智能、决策程度如何以及如何将这些转化为机器指令等难题。计算机学家、机器人学家和哲学家都在为此付出努力。

英国布里斯托机器人实验室的机器人专家Alan Winfield表示，“对于是否能制造出有道德的机器人这一问题，我现在的观点是乐观的。”一个被频繁提及的实验是名为Nao的商业机器人进行的药物提醒实验。在这个实验中，机器人需要在病人拒绝接受药物的情况下做出决策。Susan Leigh Anderson与她的丈夫一起致力于机器人研究，她表示即便是一个简单的任务也涉及许多问题。为了解决这个问题，他们通过机器学习的方法让机器人学习解决类似情况的案例。通过这种方式，机器人能够从模糊的输入信息中提取有用的知识并在遇到更多情况时做出更好的决策。这种进步也引发了人们的担忧，斯坦福大学的AI和学讲师Jerry Kaplan指出这些问题背后的复杂性在于无法将原则简单直接地转化为机器人的编程代码。与此Winfield在他的实验中通过模拟人类决策过程来模拟机器人的决策过程。他让一些机器人代表机器并模拟了Asimov的第一法则。实验结果显示即使是最低限度的规则也能指导机器人做出有益于人类的决策。要解决如何在复杂情况下做出决策的问题还需要额外的规则和策略。如何选择这些规则是一个巨大的挑战因为即便是人类也无法总是达成一致的决策特别是在涉及人类生命的决策时比如一个成人和一个儿童同时陷入危险时应该如何选择。“我们需要不断地学习和进步确保我们能够编纂出适当的规则帮助机器人在面临艰难抉择时做出正确的决策。”这个挑战需要我们所有人的共同努力和协作以确保自动化系统的决策能够符合我们的标准和价值观。对于美国军队来说，自动系统已成为关键的战略目标。军事机器人的作用和应用，引发了广泛的讨论和关注。针对机器人能否协助士兵或执行致命任务的问题，佐治亚理工学院的机器人软件学家Ronald Arkin有着独到的见解。他认为，最不希望看到的是将自动机器人直接送入战场，而没有明确的规则和准则来指导其行为。当机器人面临选择拯救士兵还是追击敌军的情况时，它们必须事先被编程设定好明确的任务和目标。

在美国国防部的支持下，Arkin正在致力于开发一种名为“管理”的程序或算法，以确保军事机器人在执行任务时遵循国际战争条约的规定。该算法会在虚拟环境中进行测试，例如在模拟飞行中评估是否可以对敌方目标进行攻击，或者在存在平民设施的情况下是否应执行此类任务。

随着美国、日本、韩国和英国等国家在军事机器人研发方面的投入增加，人们对于这些自动系统的道德和问题产生了深深的忧虑。特别是在“自动机器”技术可能广泛应用的预测下，人们开始质疑人类是否能完全掌控这些军事机器。Arkin坚信，只要为这些机器设定正确的规则和程序，它们可以在某些情况下表现得比人类士兵更好。

在国际层面，联合国的《特定常规武器公约》正在听取专家和学者的意见，关于在没有人类监督的情况下机器人进行杀戮是否可接受的问题仍在讨论中。其中，斯坦福大学的Peter Asaro表示，越来越多的人认为无人监督下的机器人是不被接受的。

随着科技的飞速发展，人类的幻想正在一步步变为现实。从软银集团推出的能识别人的情感并与人交流的机器人Pepper可以看出，机器人不仅拥有多种技能，甚至开始展现出“情感”。这引发了关于人类与机器人之间关系的新思考：我们应如何对待和处理与机器人的关系？

研究人员指出，如何构建具有意识的机器人对它们的未来发展至关重要。计算机学家Michael Fisher认为，为机器人建立规则约束系统可以增强大众对它们的信任。机器学习方法使机器人能够从经验中获取信息，这将使它们更加灵活和有用。许多专家表示，最好的方法是将多种方法结合起来，尽管这仍是一个挑战。

随着技术的进步和自动系统的广泛应用，人类、道德和机器之间的关系将变得越来越紧密和复杂。我们需要更加深入地思考和探讨如何在这一新领域中保持平衡和和谐。