我们该怎样担忧超级人工智能

导读：人工智能的未来究竟如何，它对于人类又意味着什么呢？这些都是当前备受关注的热门话题。关于人工智能，存在着许多毫无根据的猜测和论断，让我们一同揭开这些神秘的面纱。

关于时间表的神话：机器超越人类水平的智能需要多长时间？我们常常陷入一个误区，认为机器超越人类智能是理所当然的。历史的进程充满了技术的过度炒作，那些曾向我们许下承诺的飞行汽车和聚变电站，至今仍未实现。过去，人工智能也被反复夸大，甚至该领域的一些创始人也曾过度渲染过其潜力。

另一方面，也存在一种反神话的观点，即本世纪内不会出现超人类的人工智能。尽管研究者们从各个角度进行估算，但由于之前的悲观预测并未实现，我们仍无法断定这一结论。那么，究竟距离我们拥有超人类人工智能还有多远呢？调查结果显示，世界顶级专家们的意见并不统一，因此无法给出确切答案。例如，在2015年波多黎各人工智能大会上的一次调查中，研究者们的平均预测是2045年，但也有人认为需要几百年甚至更长时间。

还有一个神话是担心人工智能的人们认为预言将在未来几年内实现。但事实上，大多数担心超人类人工智能的人们认为实现这些预言至少需要几十年。尽管如此，他们强调只要我们无法确定本世纪内不会出现超人类人工智能，就应该开始着手研究安全措施，以避免潜在的风险。涉及人类水平人工智能的安全问题非常棘手，需要长期的研究和解决方案。我们现在就应该启动安全研究，而不是等到为时已晚。

争议的神话：担心人工智能并倡导人工智能安全研究的人们常常被误解为对人工智能不甚了解的卢德派。实际上，支持人工智能安全研究本身就是一个具有争议的话题。为了适度投资人工智能安全研究，并不需要让人们相信人工智能会带来高风险，只需让他们认识到安全研究的重要性即可。正如购买家庭保险一样，只需向人们证明房屋火灾并非不可能发生即可。

也许是媒体让人工智能安全的争论看起来比现实更加具有争议。媒体常常夸大事实，以吸引观众的眼球。从媒体文章中获取的观点可能并不准确。对于两个人只从媒体中获取关于人工智能的观点的人来说，他们可能只是基于断章取义的引用来判断对方的观点。例如，一个技术怀疑论者可能只看到比尔盖茨关于人工智能的某个观点，就错误地认为盖茨相信超级智能即将到来。而事实上，人工智能领域的专家如吴恩达等人，他们关心人工智能的安全问题，但可能由于时间估算的不同而持不同观点。

关于超人类人工智能风险的神话：许多人都听说过Stephen Hawking关于机器人崛起的警告，但这只是众多关于人工智能的夸大言论之一。我们常常看到描述机器人面目可憎、拿起武器的情景，并担心机器人会变得邪恶并攻击人类。真正需要担心的是机器人的能力而不是其意识。如果一辆无人驾驶的车撞到你，它的意识如何对你并不重要，重要的是它的行为带来的后果。我们应该关注超级智能人工智能的行为和潜在风险，而不是其主观感受。我们需要确保超级智能人工智能的目标与人类的目标一致，避免将其置于危险的位置。

关于人工智能的未来存在着许多未知和挑战。我们需要保持开放的心态和理性的思考来面对这个领域的挑战和机遇。同时我们也要警惕那些夸大其词的言论和谣言避免误解和不必要的恐慌情绪产生误导我们对这一重要领域的认知和发展方向。关于意识概念的误解与机器无目标神话的探讨

机器确实能够在狭义的层面上展现目标导向的行为，正如热跟踪导弹被设计为击中目标。当我们被一台目标与我们不一致的机器所威胁时，关注的焦点不应是机器是否具有意识，或是它感受到的目标感，而是机器所展现出的具体行为。想象一下，若热跟踪导弹追踪你时，你不会回应：“我不担心，因为机器没有目标！”这显然无法解决问题。

我对Rodney Brooks等机器人先驱遭遇的误解感到同情。一些夸大其词的报道将他们描绘成面对长有红色眼睛、面目狰狞的金属怪兽的情景。事实上，真正的关注点在于人工智能运动背后的智能本身，尤其是那些与我们目标不一致的智能。这样的智能可能不需要实体机器人身体，仅仅通过互联网连接或许就能智胜金融市场、在发明上超越人类研究员、操纵人类领袖，甚至制造出超越我们理解能力的武器。

还存在一个关于机器人无法控制人类的误解。实际上，智能具有控制潜能：人类控制老虎并非因为我们更强壮，而是因为我们拥有智慧。这也意味着如果我们放弃自身作为地球上最聪明物种的地位，我们可能会失去对智能的控制权。我们不能忽视智能的发展，而应更加深入地理解并与之共处，确保智能技术为我们所用，而不是成为控制我们的力量。