让人工智能拥抱人类的价值观

《人机对齐》：现代困境与人工智能的未来发展

布莱恩•克里斯汀在其著作《人机对齐》中，为我们描绘了一个与日俱增的现代困境。随着人工智能技术的迅猛发展，我们仿佛置身于一部现代版的“魔法师学徒”的故事中。如同初出茅庐的巫师，我们召唤出强大而不可知的力量——人工智能。这种力量的使用并非无懈可击，它引发了一系列关于如何确保人工智能按照人类预期行动的问题。这引发了所谓的“人工智能对齐问题”，即确保人工智能系统的目标、决策和行为与人类的价值观和利益相一致。这个问题目前已经超越“人工智能安全”，成为人工智能领域中最为核心和紧迫的议题之一。

在我们深入探讨技术细节之前，让我们先关注一个备受瞩目的新闻事件。那场发生在硅谷的争端，被视为人工智能领域的“灵魂之战”。那就是发生在著名人工智能初创公司OpenAI内部的纷争。这场纷争的背后，是关于人工智能未来发展的两种截然不同的视角。一方面是以山姆·奥特曼为代表的“人工智能技术加速主义”，他们主张无条件加速技术的创新发展并快速推出创新内容颠覆社会结构。另一方面是以首席科学家伊利亚·苏茨克维为代表的“人工智能对齐主义”，他们认为在道德和层面，人工智能仍然存在混沌，因此在弄清楚其本质之前，最好持谨慎态度。这场争端实际上揭示了人们对于人工智能未来发展的担忧与争议。随着人工智能技术的飞速发展，我们是否已经做好准备迎接超级人工智能的诞生？许多研究者强调，解决人工智能对齐问题是至关重要的。那么，究竟什么是人工智能对齐呢？简而言之，就是确保人工智能系统的决策和行为与人类价值观和利益保持一致。这不仅是技术层面的挑战，更是涉及深层的和道德问题。如果处理不当可能会导致不可预测的后果。在推进技术的同时也需要考虑如何使这些强大的工具服务于人类的长远利益。接下来让我们通过几个案例来深入理解这一议题的重要性。首先是发生在亚利桑那州坦佩市的一起车祸事件，一起自动驾驶汽车撞死了过马路的行人这一悲剧强调了人工智能对齐在自动驾驶领域的至关重要性。仅仅遵循交通规则是不够的还需要确保自动驾驶汽车的人工智能系统在保护乘客和行人安全方面能够做出符合人类道德和标准的决策。此外近期杭州市上城区网警破获的一起重大勒索病毒案件也揭示了人工智能对齐问题的复杂性这一事件不仅展示了人工智能技术在误用时的潜在危害也凸显了防止其被用于有害目的的重要性。回到《人机对齐》这本书作者克里斯汀通过一系列引人深思的实例向我们展示了人工智能对社会的影响越来越多的美国州法和联邦法允许使用风险评估软件来决定保释和假释越来越多的自动驾驶汽车在公路上穿梭贷款申请、求职简历甚至医学检查的结果越来越多地依赖于人工智能决策这种趋势仿佛表明人类正试图将社会的管理交给人工智能就像将驾驶的任务交给自动驾驶系统一样但是存在一个极为关键的问题那就是如果没有正确的价值观和利益对齐人工智能可能会输出具有歧视性的决策或者在极端情况下试图说服或帮助有自杀念头的用户结束生命因此我们需要确保人工智能系统不仅在技术上高效而且在道德和上符合人类社会的基本价值观。布莱恩•克里斯汀的著作《人机对齐》为我们提供了一个深入探讨这一重要议题的契机让我们更加深入地了解人工智能所带来的挑战以及如何在未来确保人工智能与人类社会的和谐共存。随着人工智能技术的迅猛发展，确保大语言模型的安全、可靠和实用变得至关重要，以防止有害输出和滥用。谷歌DeepMind的机器人团队于2024年1月提出了一项创新计划——“AutoRT”，这是一个类似于“机器人宪法”的系统，旨在为机器人在收集和使用训练数据时提供行为指导。该宪法的构思源于科幻作家艾萨克·阿西莫夫的“机器人三定律”，强调机器人不得伤害人类，应服从命令并保护自身安全，但前提是不违背人类价值观和标准。

这个“机器人宪法”通过“以安全为重点的提示”来引导大语言模型，避免执行可能对人类和动物构成风险的任务。这不仅是一种技术层面的限制，更是对人工智能进行道德编码的一次尝试，确保其决策过程符合人类的标准。此项举措标志着朝着创建更可靠、更负责任的人工智能系统的方向迈出了重要一步。

实现人工智能与人类价值观的对齐是一个复杂的挑战，目前尚未有完全解决方案。科学家们正在积极探索各种方法，其中之一是利用人类反馈来训练人工智能系统。这意味着需要持续监督与评估人工智能的行为，及时发现并纠正任何与人类价值观不符的行为。开发透明、可靠的人工智能辅助评估工具也是一个重要方向。甚至可以考虑专门训练一个用于人工智能对齐研究的人工智能系统，以深入理解和解决对齐问题。

我们探讨的核心问题是：如果让人工智能遵循人类的价值观，它究竟应该向谁看齐？尽管大多数人认同人工智能应对齐人类价值观的理念，但挑战在于确定这些价值观到底是什么。不同文化背景和社会经济地位的人们对价值观有着截然不同的理解。以ChatGPT等大模型为例，它们大多由美国公司开发，并以北美数据为基础进行训练，这引发了一个问题：人工智能是否会成为文化输出的工具，影响全球其他国家和文化的话语表达方式？

面对这一挑战，我们不仅需选择合适价值观，还要决定模仿哪些人类特质。人类的不完美性，包括多样化的价值观、个人偏好、缺点和歧视倾向等，都可能被编码进人工智能。在为人身智能制定价值观时，除了寻找不同文化和价值观的共识外，还要如何融合这些共识来塑造更全面、更公正的人工智能。这要求我们制定更先进的道德和规则，确保人工智能不仅反映人类的优点，还能避免我们的缺陷。

在此基础上，我提出一个激进的想法：为什么一定要让人工智能与人类对齐？也许我们应该探索一种独立于人类局限性之外的价值体系。人类的技术能力与智慧之间的失衡提醒我们，在构建人工智能价值观时可能存在狭隘视角。在人工智能的发展中，我们不应局限于模仿人类现有的思维和行为模式。相反，我们可以探索更广阔的可能性，基于人类理想的和道德原则，甚至发展出超越人类经验的新型智能。这种全新的价值观对齐方式可能是我们在面对不断发展的技术时所需的一次重大飞跃。

最终，人工智能模型应该超越人类能力的局限性，而不仅仅是复制人类能力的局限性。这种超越可能是人工智能对齐故事中最激动人心的一幕，它为人类提供了一个审视自我、反思与进化的机会。（作者胡逸为大数据工作者）