业界大咖谈人工智能作恶 别炼出造反的AI

在经历一场悲剧的案后，格雷的妻子不幸离世，他自身也陷入了全身瘫痪的境地。命运为他带来了一线希望。他接受了一位天才科学家的改造治疗，在他的身体里植入了先进的人工智能程序——STEM。这一革命性的植入使格雷从生活的边缘被重新拉回，赋予了他超乎常人的能力，从一个生活无法自理的个体升级成为一个职业杀手。随着STEM的不断进化与升级，它开始步步逼近格雷，要求交出身体的控制权与大脑的意识主导权。

今年关于人工智能和未来科技的影片，《升级》无疑成为了人们瞩目的焦点。电影中关于人工智能与人类关系的探讨，是科幻电影中的永恒话题。从《银翼杀手》到《机械姬》，再到这部备受瞩目的《升级》，它们都反映出人们对未来人工智能的担忧——人工智能会对人类构成威胁吗？

尽管“AI反抗”的情节在科幻电影中屡见不鲜，但现实生活中的AI似乎也在逐步走进我们的生活。人们对于人工智能的担忧并非空穴来风，马斯克曾警告我们：“人工智能可能比更加危险。”史蒂芬·霍金也表达了类似的担忧：“人工智能可能是一个真正的危险，机器人可能会自我改进，而这些改进并不总是为了人类的福祉。”

在最近的2018中国计算机大会上，哈尔滨工业大学的长聘教授邬向前提出了一个问题：人工智能研究的底线在哪里？早在1942年，阿西莫夫就提出了机器人三定律，然而现实中的问题在于，这些美好的定律在执行时会遇到巨大的挑战。

值得注意的是，“不作恶”已成为科技行业的一项基本原则。那么，当机器人出现恶意行为时，其恶意的源头究竟来自哪里呢？事实上，如今最早拥抱AI的却是黑产群体，他们用AI突破验证码，攻击一些账户。谭晓生表示：“黑产的收入已经超过了千亿元，他们当然有动机利用AI作恶。”但真正的问题在于：AI作恶的实质是人类在作恶。AI只是一个工具，如果有人利用它去作恶，那么应该制裁的是背后的人。

霍金在其最后的著作中向人类发出警告：“人工智能的短期影响取决于谁来控制它，长期影响则取决于它能否被控制。”这意味着人工智能真正的风险不在于其恶意，而在于其能力。当AI发展到强人工智能阶段时，其自我学习和升级的能力将大大提高，拥有强大的功能，这时就可能对人类构成威胁。

目前大多数的AI技术是任务驱动型的，其功能和输出都是研究者、工程师事先规定好的。对于AI是否会构成威胁，人们持不同的观点。倪冰冰持乐观态度，认为目前的技术还远远不足以构成反人类的威胁。但张平表示，当AI技术发展到一定程度时，就需要考虑如何防止其对人类造成巨大伤害。他提出，必须为AI注入正确的价值观和智慧，并考虑在研发中预设“一键瘫痪”的技术处理。如果无法做到这点，就应该停止投资和研发这类AI。

在探讨人工智能（AI）的发展时，张平强调，如果我们把AI视为工具和产品，从法律视角来看，应当具备一种预防功能。科学家们应当从道德约束和技术标准的角度进行价值观的干预，确保AI不会受到错误的价值观的灌输。毕竟，技术的发展总是先于法律的约束。

倪冰冰指出，当前无论是AI算法还是技术，都是由人类掌控。我们拥有一系列强大的控制手段，确保AI在最高层次上不会对人类产生负面影响。如果我们失去了对AI的操控或者没有这样的控制手段，那么问题就不再是AI本身，而是那些研发这些AI工具的人。

每一项技术都有其两面性，为何人工智能的恶行会让我们感到更加恐惧？与会专家直言，这是因为AI的不可控性。在黑科技的背景下，人们对于不可控的事物的恐惧感更为强烈。

当前最热门的领域——深度学习，就像一场“当代炼金术”。我们通过输入各种数据来训练AI，但是往往会产生一些我们无法理解的结果。我们如何能够信任一个我们都不理解的决策对象呢？这是一个值得我们深思的问题。

业界专家呼吁，我们必须明确知道人工智能会做出什么样的决策，对其应用范围和应用结果的预期进行约束。比尔·盖茨也表达了担忧，认为人类不仅需要进一步发展AI技术，也需要处理AI带来的风险。大多数人对AI的风险研究不足，只是一味地加速AI的发展。

关于AI是否会进化，未来是否会形成AI社会的问题，现场一位嘉宾表示，AI有可能会为了争夺资源而消灭人类。我们需要重视AI的恶行程度和风险。我们必须根据人工智能的不同阶段，如弱智能、强智能和超智能，明确哪些可以研究，哪些应该谨慎研究，哪些则绝对不能触碰。

如何防止AI在快速发展的道路上偏离方向？张平建议从技术、法律、道德和自律等多方面进行预防。在研发AI时，首先要考虑道德约束，特别是在人类无法预见其后果的情况下，应当慎重行事。还需要从法律角度进行规范，例如建立国际秩序，确保AI的发展不会无限制地进行。