XAI赋能后 机器人会怎么样竟然能理解人类行为

随着人工智能技术的飞速发展，我们正逐步进入一个充满智能助手、智能家电和智能导航的全新时代。在这个时代里，机器人以其独特的方式逐渐融入我们的日常生活，为我们提供各种便捷服务。

想象一下，在未来的居室或工作环境中，智能机器人能够遵循我们的自然语言命令，为我们完成一系列任务。它们不再仅仅是简单的执行者，而是能够理解和响应我们的需求和指示的伙伴。为了实现这一愿景，麻省理工学院的研究人员最近开发了一种新型的机器人计划程序。

这一计划的独特之处在于，它结合了深度神经网络与基于采样的计划程序，从而提高了机器人的可理解性和响应能力。安德烈·巴布博士表示：“为了确保机器人能够理解我们的语言和需求，我们必须确保它们具有高度的可信任度和安全性。”这正是可解释性人工智能（XAI）发挥关键作用的地方。XAI致力于开发出人工智能系统，让人类感到信赖，从而促进它们更好地融入人类社会。

麻省理工学院的这一研究深入探讨了如何将语言与机器人的动作进行有效结合。研究人员郭延龄表示：“机器人规划人员在探索机器人可以做什么然后让机器人执行动作方面非常出色。”这一技术将句子分解成小块，然后将这些小块翻译成小的网络，再重新组合在一起，从而实现了对句子的深度理解和响应。这种技术的核心在于理解肢体语言交流的重要性。虽然语音交流已经被广泛研究，但在动物和人类之间进行的交流大多是非语言的。理解肢体语言交流可能有助于开发更有效的机器人与人类之间的交流策略。麻省理工学院的研究人员正在探索将句子翻译成机器人动作的可能性，他们最近的研究是朝着这个方向迈出的重要一步。

当我们试图引导机器人执行任务时，一个关键的角色在幕后发挥着巨大的作用——机器人计划人员。MIT团队的Barbu强调：“我们的计划人员具有独特的优势，几乎不需要大量的培训数据。” 他进一步解释：“训练机器人应该像训练狗一样基于行动和互动，而不是仅仅依赖于无数例子。”这是一种以行动为基础的训练模式，让人与机器人的互动变得更为自然和真实。

虽然过去的研究者探索了通过口头命令引导机器人的方法，但是这些技术通常在离散环境中应用，限制了机器人的动作范围。另一种新的计划程序的出现打破了这一局限。加州大学洛杉矶分校的研究团队对此提出了疑问：机器人如何向人类用户解释自己的行为？这种自我解释是否真的会增进人类对机器人的信任？为此，他们设计了一个实验，让机器人在完成任务后提供任务执行的自我解释文本。具体来说，机器人完成打开药瓶的任务后，会提供一段详细的文字记录，包括基于象征性信息和触觉信息的解释。他们邀请了150名参与者观察机器人的操作过程，并对比了不同解释方式的效果。

在这项研究中，MIT团队发现了一种能够建立机器人与人类之间信任的最佳方式：同时提供象征性和触觉信息的文本解释。有趣的是，只有触觉信息的解释并没有明显提高人与机器人之间的信任度。这表明人类更倾向于听取机器人逐步解释他们的工作内容。当机器人无法完成任务时，许多现有的机器学习模型往往无法提供关于问题的详细信息。这导致开发者难以识别模型的弱点并进行改进。由Barbu、Kuo和Katz开发的机器人计划器展示了其推理能力，逐步解释每个动作背后的意义。这为研究人员提供了一个找出问题并改进模型的机会。

Barbu对未来充满期待：“我们非常兴奋看到机器人能够在很少的人类帮助下快速学习语言并理解新词汇。”他认为深度学习不一定需要大量的数据，关键在于建立正确的原则并让机器人执行有意义的动作。通过一系列实验评估，该计划器的性能得到了验证，并且其表现优于传统的RRT模型。这项研究为开发能够更有效地处理和遵循自然语言命令的机器人提供了宝贵的启示。他们目前正在努力扩大机器人的语言理解范围，让他们能够理解并执行更复杂的指令。

展望未来，研究人员如Kuo希望探索逆向计划的思想。他设想：“如果我们可以将语言转化为机器人动作，那么我们也可以从机器人的动作中理解人类的意图。”这项研究不仅关注机器人的性能提升，更重视如何让人类信任机器人。这需要我们同时具备强大的机器性能和自我解释能力。构建AI系统时，这两者都是至关重要的目标。对于机器人来说，要想在日常生活中与人类和谐共处，必须先赢得人类的信任。了解机器人如何通过自我解释来建立信任是走向这一愿景的重要一步。