MIT用XAI解析人类行为 让机器人更像人更容易和人接触相处

人工智能正悄然改变我们的生活，智能助手、智能家电和导航地图都是其渗透我们日常生活的证明。未来，机器人将在各种环境中为人类提供各种帮助。为了更自然地与机器人互动，它们应当能理解并遵循我们的自然语言命令。

随着可解释性人工智能（XAI）的发展，如何确保机器人的行为值得信赖变得越来越重要。在这一背景下，麻省理工学院的大脑、思维和机器中心的研究人员正在致力于开发一种基于采样的机器人计划程序，该程序可理解自然语言命令序列。这种系统结合了深度神经网络与基于采样的计划程序，显示出强大的潜力。

安德烈·巴布（Andrei Barbu）表示，这项研究的主要目标是确保机器人能理解并执行人类发出的命令。为了确保机器人的安全与人类能够便捷地与之交流，他们的工作结合了机器人计划、深度网络以及机器如何理解语言的研究。这种方法的深远目标是更好地理解肢体语言交流，因为在动物和人类之间进行的交流大多数是非语言的。

麻省理工学院的研究人员一直在探索将句子翻译成机器人动作的可能性。他们的最新研究展示了这一方向的前景。加州大学洛杉矶分校的研究团队也在尝试让机器人解释其行为和目标，这证明了增强机器人的可信赖度至关重要。为此，研究人员利用象征性信息和触觉信息来教授机器人如何执行任务，结果显示，结合这两种信息的机器人性能最佳。这表明，为了让机器人高效执行任务，必须同时提供象征性信息和触觉信息。

MIT的新型机器人计划器具有两大关键组成部分：递归的分层深度神经网络和基于采样的计划程序。这种计划程序几乎不需要培训数据，就能控制机器人如何探索环境并预测实现目标的可能性。随着研究的深入，我们可以预见未来的机器人将在理解并执行人类命令方面变得更加出色，从而更深入地融入我们的日常生活。我们期待这一领域的进一步发展，并相信未来的机器人将为我们带来更加便捷和高效的生活体验。在探索机器人与人类交互的新纪元中，加州大学洛杉矶分校和麻省理工学院的团队正致力于推动机器人技术的新突破。他们不仅关注机器人能够完成的任务，更着眼于如何让这些机器人在执行任务时向人类解释其行为，从而建立起人类对其的信任。这种自我解释的能力对于机器人在日常生活中的广泛应用至关重要。

过去的研究主要关注通过口头命令或离散环境来引导机器人，但这种方法的局限性显而易见。当环境变得复杂或任务多样化时，机器人需要更高级别的智能和适应性。为此，研究人员开发了一种新型的计划程序，该程序不仅支持机器人与各种环境的交互，而且能够处理从未遇到过的物体和任务。

当机器人完成一项任务，比如打开药瓶时，它不再只是机械地执行动作。相反，它会生成一个任务执行总结，以文本记录的形式向人类用户提供解释。在实验中，团队为参与者提供了四种不同的解释方式：基于实物面板的解释、基于象征性信息的解释文本、基于触觉信息的解释文本以及结合前两者的总结性解释。结果表明，结合象征性和触觉信息的文本解释最能促进机器人与人类之间的信任建立。

有趣的是，当机器人能够逐步解释它们的工作内容时，人类的信任感会大大增加。这种透明的交互方式让人们明白机器人在做什么、为什么这么做，从而建立起一种基于理解和信任的人机关系。即使机器人的任务执行出现偏差或错误，通过自我解释，人们也能更容易地理解问题所在，进而帮助机器人进行改进。

麻省理工学院的研究人员进一步通过一系列实验评估了机器人计划器的性能，并展示了其强大的推理能力。当机器人能够处理并执行简单的指令时，人们对其的信任也在逐步增强。对于更复杂的指令，比如涉及多个物体和动作的指令，机器人仍然面临挑战。为了解决这个问题，研究人员正在尝试扩大机器人可以理解的句子范围，并探索逆向计划的思想。

这项研究的最终目标是将机器人的动作转化为人类可以理解的语言，从而实现人机之间的深度交互和沟通。这不仅需要机器人的技术突破，更需要建立一种基于信任和理解的全新的人机关系。这种关系将使我们能够充分利用机器人的能力，同时确保人类始终在交互过程中占据主导地位。

机器人的自我解释能力与其在实际应用中获得的信任息息相关。随着研究的深入和技术的不断进步，我们有理由相信，未来的机器人不仅会完成任务，还会向我们解释它们如何完成任务。这种透明和可解释的交互方式将使我们与机器人之间的关系更加紧密和融洽。