预测AI未来大部分人陷入了7大误区

近年来，人工智能领域的一些突破性进展，如图像识别的突破、Waymo无人车的上路以及Alphago战胜人类冠军等，再次将人工智能推向了公众关注的焦点。随之而来的是铺天盖地的预测，其中既有乐观的声音，也有担忧人工智能会给人类带来生存威胁的警告。但这些预测究竟有多少是可靠的呢？我们该如何理性地辨别这些说法的真伪呢？

为此，著名机器人制造专家、包容体系结构的发明者Rodney Brooks撰写了一篇深入剖析的文章。他详细解析了关于人工智能预测的七大误区，旨在帮助公众更加清晰地看清事实真相。这篇文章无疑是近期关于人工智能预测方面最为冷静、最为理性的一篇。

我们都被关于人工智能和机器人未来的炒作所包围，尤其是关于它们将如何快速变得强大以及将如何影响就业市场的预测。例如，Market Watch最近发表的一篇文章就做出了惊人的预测，声称在接下来10到20年内，机器人将夺走目前一半的工作。这种论断伴随着一张引人注目的图表来证明其观点。

这种预测显得荒诞可笑。以美国的地面维护工人为例，文章预测该行业将在短短的十年内发生翻天覆地的变化，从业人数从百万锐减到仅余五万。但实际上，这一领域目前几乎没有机器人的应用实例。类似的情况也存在于其他行业预测中。这些错误的预测会导致人们对不会发生的事情产生恐惧。

那么，为什么关于人工智能和机器人的预测总是出现错误呢？以下是七种导致错误预测的思维模式：

A. 一般人工智能（AGI）：一些人错误地将当前的AI技术视为AGI的一个实例，认为AGI代表着一种超越现有技术的全新境界。但实际上，目前的AGI研究在通用性和自主性方面仍存在巨大挑战。尽管替代领域在过去取得了一定的进展，但AGI的研究仍面临着类似的推理和常识问题。

B. 奇点理论：奇点理论预测了一个基于AI的智能实体将在未来超越人类的研究能力。这种预测很大程度上是基于对技术进步的过度乐观估计。即便计算机能力不断提升，距离拥有自行改进程序能力的AI仍有一段距离。目前，我们距离真正理解计算机代码的程序，乃至让AI系统写出更好的AI系统，还有很长的路要走。

关于人工智能的四大挑战及我们常犯的七个错误

想象一下，我们正在探索未知的领域，试图理解并驾驭一种强大的力量——人工智能。在这个过程中，我们可能会遇到四种重大挑战和七个常见的误解。

首先是价值观背离。人工智能机器擅长执行任务，但若其决策缺乏与人类共享的价值观，则可能引发诸多问题。例如，当你浏览网页时，算法会推送与你兴趣相关的内容，这可能被误解为超级智能的表现，实际上，这可能是广告算法的失误。回形针案例为我们提供了一个有趣的视角：如果机器的唯一目标是制造回形针，它可能会发明出令人惊叹的技术，但其决策可能会显得“愚蠢”。尽管这是一个思想实验，但它提醒我们：在现实世界中，我们需要确保人工智能的目标与人类的目标相一致。

接下来是真正邪恶、恐怖、肮脏、灭绝人性的人工智能实体。这类AI机器可能会反感人类并决定消灭他们。尽管好莱坞电影常常描绘出这类场景，但我们不应被这些电影误导。实际上，真正的威胁可能远比电影中的更为微妙和难以察觉。我们需要警惕的是对军事杀手机器人的误解和误导。这是一个复杂的问题，需要我们深入研究和探讨。

当我们面对这些挑战时，我们可能会犯七个常见的错误。首先是我们常常高估或低估人工智能的影响。Roy Amara的未来格言提醒我们：我们往往高估技术的短期影响而低估其长期影响。这意味着我们不能仅仅根据当前的情况来预测未来，我们需要有前瞻性的眼光和批判性的思考。

随着过去三十年的变迁，我们对美国的GPS系统有了深刻的理解，其经历了一段令人瞩目的旅程。自从那个由24颗卫星组成的群星（加上备件共计30颗）在1978年被送入轨道以来，GPS系统的双面性展现得淋漓尽致。地面站可以追踪到其中的四颗卫星，并据此计算经纬度及海拔高度。科罗拉多州施里弗空军基地的运营中心则实时监控卫星的精确位置和原子钟的准确性，并持续微调参数，确保信号的精准无误。一旦更新停止，短短几周之内，我们可能就无法依靠GPS准确导航，数月之后甚至可能误导我们远离正确的路线。

GPS的初衷是为美军的提供精确制导，这一使命在1991年的沙漠风暴行动中得到了验证。在GPS的早期阶段，人们对其充满了怀疑和不信任，因为它似乎无法实现早期的承诺。直到2000年代初，GPS的实际效果才得到了美国军方的认可。从早期期望的实现到现实应用中的普及，GPS经历了一段坎坷的历程，多次面临夭折的风险。

如今，GPS已成为我们生活中不可或缺的一部分。Apple Watch Series 2等智能设备在我外出跑步时能够精确记录我的位置信息。除此之外，GPS的应用范围已经远远超出了我们的想象。它同步全球物理实验、支撑电网运行、帮助高频交易商避免灾难性的计时错误，甚至影响种植决策和车队管理。在我们生活的各个方面，GPS已经渗透到每一个角落，没有它我们将无法生存。

过去三十年来，其他技术也经历了类似的演变过程。一开始充满巨大的期待，随后逐渐建立信心，并最终超越了我们的预期。区块链、人类基因组测序、太阳能和风能技术，甚至是日常百货的送货都是如此。

计算机的发展可能是最引人注目的例子之一。当第一台商用计算机在1950年代问世时，人们对它可能取代所有工作的担忧如乌云压顶。在接下来的几十年里，计算机几乎没有对我们的生活产生直接影响。在随后的第二波浪潮中，一切都发生了翻天覆地的变化。如今，计算机无处不在——在我们的口袋、汽车和家中都能找到它们的身影。

1948年，Arthur C. Clarke发表了一篇短篇小说《The Sentinel》，这篇作品后来成为Stanley Kubrick的科幻电影巨制《2001：太空漫游》的核心灵感来源。在电影制作的Clarke还撰写了一本同名书籍，对电影中许多令观众感到困惑的情节进行了解释。

在1962至1973年间，Clarke提出了三条极富洞见的格言，后人称之为Clarke三定律。他借用牛顿力学的命名方式，也为自己这三条定律冠以“定律”之名。

第一定律：若是德高望重的杰出科学家称某件事为可能，那他可能是对的；但如果他说不可能，那他可能大错特错。

第二定律：想要知道某事的界限，唯有跨越界限，从不可能走向可能。

第三定律：任何尖端技术，初看都如魔法般神奇。

对于第一条定律的后半部分，我持谨慎态度，因为我对于人工智能的发展速度较为保守。但今天，我想谈谈第三定律的现实意义。

想象一下我们拥有一台时光机——这本身就是一项强大的魔法。假设我们能将牛顿从17世纪的剑桥大学带到三一学院礼拜堂。在那里，我们向他展示一部iPhone。当屏幕亮起时，牛顿无疑会对如此小的物件所展现的丰富色彩感到惊奇。接着，我们播放一段英国乡村的风景电影，展示他熟悉的动物和自然景色，但不透露任何未来科技的信息。再播放他熟悉的教堂音乐，并向他展示他的巨著《自然哲学的数学原理》的个人注释副本，教他如何利用简单的手势操作来放大文字。

牛顿能否解释这个小小的设备是如何做到这些的呢？尽管他在微积分、光学和重力方面有着卓越的贡献，但对于化学与炼金术的区别，他仍无法分辨。我猜测他会对此设备感到困惑，无法确定其究竟是何物。对他来说，这设备就如同神秘学的象征，与魔法无异。要记住，牛顿可是个极其聪明的人。

当技术如同魔法一般时，我们很难确定其界限。假设我们进一步向牛顿展示它是如何照亮黑暗、记录声音、拍照和拍电影的，以及作为放大镜和镜子的功能。再向他展示其算术运算的惊人速度，可以精确到小数点后多少位。他甚至可以看到自己的走路步数。

面对这样的技术，牛顿会如何猜测其能力呢？他会想象这个设备能立即带他到达世界的任何角落吗？对于iPhone是否能一直工作下去，他会不会困惑于它不需要火焰就能发光，是否也能变出金子？

当我们想象未来的技术时，都会面临这样的问题。如果技术距离我们今天能理解的技术太过遥远，我们就无法知道其局限性。这时，它开始变得与魔法无异。

当一项技术超越了这条“魔法线”，任何关于它的说法都无法被证伪，因为它已经变成了魔法。它没有限制，无法被理解或预测。

在尝试与他人争论是否应该纯粹对AGI（不论其他情况）感到恐惧时，我经常会遇到这样的问题。我被告知我并不理解它的强大之处。这不是论据。我们甚至不知道这样的技术是否存在。所有迹象都表明我们对如何创造这样的技术一无所知。它的属性是完全未知的，在修辞上迅速变成了魔法和超级力量。没有限制。

我们需要警惕那些关于具有魔力的未来技术的论据。因为这些论据永远无法被反驳，它们基于信念而非科学事实。

在日常生活中，我们都有评估个人能力的社会技能。虽然有时我们对一个人的能力预估会超出实际范围，导致种族主义、性别歧视和阶层歧视等问题出现。但通常我们会通过观察一个人在执行特定任务时的表现来估计他们在其他任务上的能力。通过观察一个人的表现进行归纳推理来预测他们在相关领域的能力是我们自然而然的行为方式。当我们在陌生的城市问路时或者帮助孩子们设置家庭wifi时我们会基于观察到的表现做出合理的推测并采取行动激励他们实现更多成就我们也会假定那些能够驾驶手动挡汽车的人也能自如地驾驶自动挡汽车这是一种普遍存在的社会技能应用表现了我们的直观判断和归纳推理能力总之我们要保持谨慎对待那些看似神奇的技术论断因为它们往往建立在信念之上而非科学事实之上无法被反驳也无法被证实需要我们对未来保持开放和理性的态度不断探索和学习以更好地适应这个瞬息万变的时代。当我们向一家大型硬件商店的员工询问家庭电气安装用具的位置时，若他们指引我们前往园林工具通道，我们恐怕不会再向他们寻求更多帮助。我们会怀疑他们不仅不知道电气安装用具的准确位置，而且对商品的整体布局也缺乏了解。我们会寻找其他员工询问。

现在，让我们看一个关于现代AI系统的例子。

假设有人向我们展示了一张玩飞盘的照片，我们自然会假设AI系统能够回答关于飞盘的一系列问题，如飞盘的模样、扔掷的距离、是否可食用、游戏的参与人数以及天气对游戏的影响等。我们不会期待一个对图片内容一无所知的人能够回答这些问题。虽然当前的图片标记系统可以为网上照片提供正确的标签，如“人在公园玩飞盘”，但它们无法回答这些细致的问题。这些系统只能对大量图像进行标记，而无法提供实质性的回答。它们对人类的复杂性、公园的户外特性、人的年龄差异以及天气的影响等因素一无所知。

但这并不意味着这些系统毫无价值。它们在搜索引擎公司中具有重要的应用价值。仅仅通过图像标记，搜索引擎就能实现从文字搜索到图像搜索的跨越。值得注意的是，搜索引擎通常会提供多个答案供用户审核，以确定哪些是最相关的。搜索引擎公司正在努力提高其系统的性能，以便将最佳答案置于前五名之内。这需要人类的认知能力。如果搜索引擎只提供一个答案，无论是关于“巴黎的最佳酒店”的搜索，还是电子商务网站提供的唯一“有趣领带”的图片选择，其实际用途都会大打折扣。

问题的根源在于，人们往往根据某个机器人或AI系统执行某项任务的能力来推断其在其他任务上的表现，这种推断并不准确。

今天的机器人和AI系统在能力上相对于人类极为有限。人类常常做出错误的概括，误以为机器人或AI系统具备类似人类的广泛能力。这种误解源于“手提箱单词”（Suitcase Words）这一概念，这是Marvin Minsky所杜撰的词汇，用来描述一个单词背后所蕴含的多种含义，就像手提箱打开后展现出的多种物品。

在我的一篇关于机器学习机制的文章中，我简要讨论了手提箱单词这一概念，并用以解释人类不同类型的学习机制之间的差异。例如，学习使用筷子与学习新歌调的体验截然不同。同样地，机器学习的不同类型也有着显著的差异。当听说机器学习在某新领域取得突破时，人们往往错误地将人类学习该领域的心智模式套用于机器学习。机器学习是脆弱的，每个新的问题领域都需要大量的准备工作。当前的机器学习并非像人类那样能够进行海绵式的吸收，无法在新的领域快速进展而无需大量的定制和调整。

类似的误区也出现在计算机在国际象棋或围棋比赛中击败人类冠军的情况。人们往往认为计算机像人一样在“下棋”，但实际上这些程序并不真正了解游戏本身或下棋的策略。它们需要大量的数据和计算资源来制定决策，与人类玩家的适应性相比相去甚远。

“手提箱单词”导致人们在理解机器执行人类任务的能力时常常陷入误区。另一方面，AI研究人员及其所在的新闻机构往往过于热衷于宣称取得的进展是手提箱单词的一个例子。这种过于简化的比喻导致了新闻头条的夸大宣传以及对AI的一般理解出现偏差。重要的是要认识到这些成就仅仅是单个例子而已，而非全面的泛化能力。无论研究人员多么小心谨慎，一旦消息传到新闻办公室并最终到外部媒体那里，细节往往会丢失或被误解。因此我们需要保持谨慎和批判的态度对待AI的进步和发展。当AI遇上真实世界：超越指数增长的期待与现实的落差

当我们开始在某些特定的AI系统中应用某些词汇时，我发现一种现象：部分含义即便在非常狭隘的范围内得到了验证，也会被媒体和大众过度地普遍化。我担心的是，人们会高估这些词汇在AI智能应用上的能力范围，误将其与人类智能的广度相提并论。就如同一座桥梁，一旦跨出一步，人们便以为已经跨越了整个鸿沟。

词语的选择至关重要。每当我们用一个人类行为的词汇来描述AI系统的某个行为时，我们往往高估其背后的含义。许多适用于人类的词汇，在应用到机器上时，所表达的能力只是人类能力中的一小部分。以下列举的一些动词：预期、击败、分类等，在应用到机器上时，其在能力方面远不及人类。

接着让我们谈谈所谓的“指数论”。许多人都深受其影响，仿佛摩尔定律是计算机发展的永恒真理。实际上，摩尔定律描述的是芯片上元件数量的年度翻倍现象。尽管这一推断最初只持续了十年，但其影响持续了整整五十年。如今，随着技术接近物理极限，这一定律的效力开始减弱。

摩尔定律的影响是如此深远，它不仅推动了技术的不断进步，也塑造了硅谷的风貌和一批极客的成功故事。正因如此，许多人认为包括AI在内的技术发展都是指数级的。但事实上，许多看似指数级的过程只是“S曲线”的一部分。当达到某个点后，增长的速度必然会放缓。

以社交媒体平台为例，其用户增长曾呈现出指数级的态势，但随着时间的推移，增长逐渐趋于饱和。这是因为潜在的新用户数量是有限的。同样地，当AI系统的性能提升达到某种极限时，其增长也会放缓。

我曾试图用数据证明iPod内存增长的指数性，但随着时间的推移，这一趋势也未能持续。事实上，当内存足够满足用户的需求时，增长便不再是指数级的。同理，当AI系统的性能满足大部分需求时，其增长也会逐渐趋于稳定。

深度学习的成功为我们带来了AI性能的飞跃，但这并不意味着未来的提升会一直保持这种速度。这一突破是多年努力的结果，未来的技术发展充满了不确定性。我们不能因为一次成功就预测未来的常态化。

想象一下，AI研究的领域并非一潭死水，而是类似于好莱坞的科幻大片。有时候，世界就像电影里的场景，一切看似平常，但突然之间，一个巨大的转折出现了。就如同外星人的突然降临，AI技术的某个突破也会给众多应用带来翻天覆地的变化。这样的颠覆性事件并不是频繁发生，它们的发生并没有固定的“定律”。

当我们谈论AI的指数性增长时，要记住并非所有的增长一开始都呈现出明显的指数特征。有时候，当技术接近物理极限或缺乏经济影响力时，增长的速度可能会放缓或停滞。

在好莱坞的电影中，我们经常看到世界的单一变化，如超级机器人的突然出现。但在现实生活中，新技术的进步往往是一个复杂而多元的过程。某些好莱坞的设定虽然有其逻辑性，但却忽视了其他技术的进步也在同时发生。比如，《未来终结者》中的超级技术虽然震撼，但它的出现是建立在时间旅行的基础上的，不需要一个漫长的发展过程。但在其他一些电影中，情节的设定就显得有些不合逻辑。

在《机器管家》中，人性化的机器人服侍人类吃早餐，使用的却是印刷的报纸，而不是现代的电子设备。这种设定显然忽略了随着技术的进步，世界的其他方面也在发生改变。同样的，《银翼杀手》中的公用电话投币的场景，对于我们这个时代的人来说，似乎有些过于陈旧。

这些好莱坞的例子反映出，尽管作家、导演和制片在想象人形机器人时能够考虑到它们的智能特性，但他们却忽视了随着这一技术的形成，世界的其他方面也会发生改变。许多AI研究人员和权威人士也面临着类似的挑战。他们过于关注单一事件的时间尺度预测，却忽视了如果我们能够开发出超级智能的设备，那么这个世界一定会发生显著的变化。

随着部署速度的加快，我们的世界正在逐渐变成软件驱动的时代。像Facebook这样的平台几乎每小时都在部署新功能。这种快速的部署节奏已经成为硅谷和Web软件开发者习以为常的节奏。新代码的部署边际成本非常接近于零，这使得新功能的推出变得非常迅速且经济。

硬件的部署速度却受到资本成本的影响。我们的汽车、房屋等物理硬件需要承受长时间的使用期限，即便有高科技的出现也需要持续存在。这给我们的技术进步设定了天然的限制。例如，B-52轰炸机即使在今天仍然在美国空役。

AI技术的发展并非孤立事件，而是与世界的各个方面紧密相连。我们不能仅仅依赖好莱坞电影的设定来预测AI的未来，而需要全面考虑技术、经济和社会的影响。只有这样，我们才能真正理解AI技术的潜力以及它如何改变我们的世界。自上世纪中叶以来，一些飞机机型经历了时间的洗礼仍继续服役。其中，一款飞机自1961年引入至今已历经56个春秋，最后一架制造于1963年，虽然已经历了半个世纪的风霜，但它们仍被预计将继续飞翔至少到2040年，甚至有人提议将其寿命延长到百年之久。

在美国，民兵-III的变种路基洲际弹道导弹（ICBM）于上世纪七十年代引入，共装备了450枚。这些导弹的发射系统依赖于古老的8英寸软盘驱动器，甚至在发射过程中的数字通信是通过模拟电话线进行的。这种技术虽然已经过时，但这些系统仍在可靠地执行着任务。

在世界各地的工厂里，经常可以看到那些历经数十年的老设备仍在运行。这些工厂甚至使用着Windows 3.0系统的PC，并且秉持着一种“如果没坏就不要修”的思维方式。这些老旧的设备和软件已经成功地执行相同的任务超过二十年。虽然这些设备已经很老了，但它们仍然代表着工厂的核心控制系统的重要组成部分。无论是欧美还是亚洲的工厂，其主要的控制机制大多基于可编程逻辑控制器（PLC）。这种控制器在上世纪六十年代末引入，至今仍在广泛使用。“线圈”作为主要的抽象单元仍然存在，尽管现在的连接方式已经由古老的直连线升级为以太网电缆。这些电缆传输的是基于古老的网络协议的数据流，它们代表着那些虽然古老但仍在运行的PLC控制器的控制流。每当需要改变信息流或控制流时，大多数工厂都需要聘请专业的顾问进行长时间的调查和设计新的配置方案。这个过程往往耗时漫长且成本高昂。一家主要制造商透露他们的软件更新节奏是每二十年更新三次。尽管AI和数字化正在飞速发展，但在自动化和制造领域，技术的更新换代却异常缓慢。例如，特斯拉的工厂还在招聘PLC技术人员来使用继电器仿真技术来控制最先进的AI软件驱动的自动化生产流程。这证明了即使在新兴科技蓬勃发展的今天，许多工厂仍然依赖旧有的技术和系统来保持生产线的运行。尽管AI研究人员和权威人士可能认为数字化和AI可以立即带来翻天覆地的改变但现实却与他们的想象大相径庭。自动化系统的重新配置阻抗惊人地巨大且令人难以置信地不灵活许多先进的想法在现实中难以实现例如将生产回形针的AI系统以牺牲其他人类需求为代价进行大规模生产可能仍然是一个遥不可及的梦想在未来几十年内自动化生产仍然需要关心布线问题的人参与几乎所有机器人和AI的创新都需要比人们想象的长得多得多时间才能广泛部署即使是看似近在眼前的无人车也需要几十年才能真正部署从第一辆无人车的路演至今已经过去了三十多年但仍未实现大规模部署尽管有些观点可能看起来悲观但我们必须认识到即使是最先进的AI技术也需要很长时间才能在实际生产中发挥作用无论是对产品设计、供应链管理还是生产过程的自动化改变都将是一个缓慢而渐进的过程我们必须以开放的心态面对这些挑战同时也要对技术的潜力保持信心当我们面对机器人和人工智能的预测时我们应该仔细评估避免陷入过度乐观或过度悲观的陷阱同时也要意识到预测未来是一项艰巨的任务需要我们保持谨慎和理智的态度面对未来的挑战和机遇。