人工智能终须拥有合作智慧

人工智能（AI）助手和推荐算法每天在与数十亿人互动，以多种方式影响人类的生活，但究其根本，他们对人类的了解仍然很少。英国《自然》杂志近日发表评论文章表示，由AI控制的汽车已逐渐掌握与自然界的互动，但在与其他汽车和行人进行协调或与人类驾驶员进行协作时，它们仍然是新手。

AI需要理解社会和“合作”的智慧，才能更好地融入我们。

在“合作”上，AI如同婴儿

AI应用程序的状态，反映了研究领域的状态。

从入门教科书可以明显看出，规范的AI依然是面向非社会环境的孤立机器。这似乎是一个明智的起点，但AI就像婴儿一样，必须要去增加对周围环境的掌握以及增加如何与环境交互的基本了解。

目前，即使在涉及多个AI参与的工作中，仍未解决“合作”这一难题，譬如在西洋双陆棋、国际象棋、围棋和扑克这些竞争性的案例中。尽管在现实世界，这种“纯冲突”的环境已很少甚至接近消失，但它们依然是吸引人的研究项目。与半合作式游戏相比，它们在文化上非常珍贵，相对容易进行基准测试，并且具有更简单的解决方案。

未来几年，AI系统需要彼此之间以及与人类之间以快速、复杂的方式进行交互在人行道和车道上，在消费者和金融市场中，在电子邮件通信和社交媒体中，都需要网络安全和物理环境安全。与人交互不好的汽车或智慧城市将无法实现其利益，甚至可能破坏稳定的人际关系。

建立一门“合作型AI”科学

科学家建议，需要建立一门“合作型AI”科学。这一领域的研究人员认为，现在应该优先发展具有促进互利的、共同行动能力的AI。正如研究人类的心理学家发现，如果没有社会互动，婴儿的大脑就无法充分发育一样，除非人们将合作问题放在研究的中心，否则对社会真正有价值的AI发展将受到阻碍。

当人类父母养育孩子时，经常鼓励孩子超越对父母的依赖，变得“自主”。但当人类个体作为更广泛的社会的一部分而展开合作时，通常最有生产力。

对AI系统中的某些成员来说，“自主”是非常有用的，它们也能有效地为广泛合作作出贡献。譬如，人们最关心的汽车，其大部分价值并不是在空旷的道路上驾驶，而是与行人、骑自行车者和人类驾驶的汽车之间顺畅协调的配合。，“合作型AI”并不是替代了“自主”，而是超越了它。

三种“合作型AI”

对AI“合作”的研究目前可分为AI与AI合作、人与AI合作、改善人与人合作的AI这三个集群。

AI与AI合作，可以应对更加困难、丰富的环境。这种多主体AI研究在某方面已经取得了不错的成绩，从IBM的象棋计算机“深蓝”的超人表现，到阿法狗深度强化学习的有力演示都是如此。但从现实世界来看，这种互动并不多见，提高固有竞争性游戏的技能，不太可能是AI产生社会价值的最有前途的方法。

人与AI合作，则需要增进AI对自然语言的理解，使机器能够了解人们的喜好，并使人类更容易使用机器推理。

改善人与人合作的AI，是研究用于改善（而不是损害）人与人之间合作的有力工具。例如，一种管理社交媒体的算法，更好地促进了健康在线社区，就是一个成功的例子。

科学其实也是一项社会事业，促进对“合作型AI”的研究需要全社会干预。人类当今面临的重大危机，其实也是合作方面的挑战。气候变化、全球公共卫生以及水、土壤、空气等其他公共物品，都需要人类采取集体行动。随着AI潜力的不断扩大，推动“合作型AI”的研究将使人们实现更好的全球合作与治理。

文/科技日报记者 张梦然

编辑/范辉