谷歌资深工程师：人工智能不会爆炸，奇点未必存在

AI的再次崛起已经引起了新一轮的热烈讨论。现在的AI在许多领域已经超越了人类的能力，如围棋对弈、图像识别等。回顾I. J. Good的见解，既然人类能够创造出超越自身的机器，那么这些机器理论上也有可能进一步进化，引发一场智能的“爆炸”，将人类远远抛在身后。之后的“奇点理论”更是引发了一场关于人类未来的热议，包括一些知名科学家如Ray Kurzweil等都对此有所预测和担忧。那么，智能真的会爆炸吗？奇点真的会在不久的将来到来吗？我们将通过深度探究智能的本质和递归自我改进系统来寻找答案。

让我们回到I. J. Good在1965年提出的“智能爆炸”概念。他设想了一种超级智能机器，其智力远超过任何人类。根据这种设想，一台超级智能机器甚至能够设计出比自己更优秀的机器，从而触发一场智能的爆炸。这样的机器，如果足够温顺并懂得如何被人类控制，将成为人类的最后一项伟大发明。

数十年后，“智能爆炸”理论在AI社区中广为流传。商界领袖们将其宣扬为比核战争和气候变化更为重大的风险。甚至在面向AI研究人员的调查中，有不少人认为智能爆炸的发生可能性很高。这一理论的基本前提是，未来会诞生一种超越人类一般问题解决能力的AI，这种AI将开始自我改进，并在很短的时间内超越人类多个量级。支持者将这种智能视为一种超级力量，持有者可以获得近乎超自然的能力。

这种科幻般的叙述引发了关于AI风险和监管需求的公众辩论，其中不乏误导性的观点。在我看来，“智能爆炸”是一个基于深度误解的观点。智能的本质以及递归式自我改进系统并不是我们所想象的那样。智能并非一个脱离环境和上下文的抽象概念。相反，它是我们身体、大脑和环境共同作用的产物。我们的文化、历史和环境都是智能的重要组成部分。不存在所谓的“一般”智能。每个问题和情境都需要特定的智能来应对。“智能爆炸”的说法忽视了智能的复杂性和多样性。基于这种理解，我认为智能爆炸是不可能的。我们对智能系统和递归系统的观察可以为我们提供更多关于智能本质和未来发展的线索。“智能爆炸”理论源于对智能和递归系统的误解和不完整理解。为了真正了解智能的未来，我们需要从更全面的角度去看待这个问题，结合我们的观察和研究来得出更准确的结论。当我们探讨智能的本质时，我们可以将其比作一个高度复杂的问题解决算法。这个算法在特定环境下运行，针对特定问题展现出其解决问题的能力。就像智能一样，它也是在特定的问题和环境中得到展现和提升的。如果我们把智能比作一个工具，那么这个工具的使用方式和效果，就取决于使用者如何理解和适应它所处的环境。

想象一下章鱼那极具特色的智能。它的智能系统是高度专门化的，用来处理章鱼在海底生活中遇到的种种问题。如果一个人类的大脑被移植到章鱼的身体里，并置于海底环境中，会发生什么呢？这个大脑能否学会运用章鱼的躯体，适应海底的生活呢？我们无法进行这样的实验，但我们知道人类的认知发展是由先天因素驱动的，我们的感觉运动空间的结构是紧密关联于我们的身体结构和功能的。就像人类的大脑预先设定了抓取、吃东西、视觉跟踪等躯体概念，来推动早期的感觉运动发展。这些概念是硬编码在我们的基因中的，是人类智能开始控制身体的基础。

类似地，章鱼也有自己的认知基元，是硬编码进其生物结构中的。这些基元让章鱼能够在其生存环境中生存和繁衍。如果我们把一个具有高度发展的人类大脑置于一个完全不同的环境中，比如森林或者狼群中长大的人，他们的智能是否能像我们所期望的那样发挥呢？经验证据表明，脱离人类文化的自然环境长大的孩子无法形成真正的人类智能和行为模式。这意味着智能的发展与特定的环境、感觉运动形式以及需要解决的问题有着根本的联系。

我们不能简单地将智能看作是一个孤立的、可以随意调整和提高的实体。智能的发展是智力、感觉运动形式和环境共同进化的结果。这就像工厂生产线的效率可以通过改进工艺和调整设备来提高一样，但智能的发展并不能通过简单的调整大脑来实现。它需要个体与环境之间的相互作用和共同演化。

那些被认为智商超常的人，他们的智能往往体现在特定的领域和环境之中。他们之所以能够解决以前被认为是无法解决的问题，是因为他们拥有特定的知识和技能，以及适应特定环境的独特能力。这种特殊能力并不总是意味着他们能够掌控或改变他们所生活的环境。很多时候，他们的成功取决于其他因素，如性格、教育、环境机遇等。这就像一场舞蹈，智能在其中发挥着重要的作用，但也需要与其他因素的和谐配合。

在Terman的研究中，首次揭示了智商与社会经济成功之间的神秘联系，这一发现后来得到了Strenze的广泛元分析的印证。尽管智商与成功的联系可能稍显微妙，统计分析却清晰地显示，一个智商为130的人在生活中更可能游刃有余地应对各种挑战，尽管这一规律并不绝对保证。当智商跃升至170以上时，这种规律性似乎被打破了。令人惊讶的是，智商极高的个体，如IQ为170或以上的人，他们的实际影响力并不必然大于IQ略低的人。实际上，许多在科学领域具有重大影响力的科学家，如费曼和Watson等，他们的智商并非超凡脱俗。据推测，现今在世的高智商人群约有五万人左右，但其中有多少人能真正解决重大难题呢？即使是那些难题的十分之一也难以确定。

探究这一现象的深层次原因时，我们必须面对这样一个直观的事实：认知能力的强大固然是取得成就的基础，但智能的实际表现却被我们所处的环境所限制。无论我们的潜在能力有多么强大，除非我们能突破环境的束缚，否则我们无法充分发挥我们的智能优势。换言之，真正的瓶颈在于如何利用和展现智能，而非仅仅依赖潜在的认知能力。当前的证据显示，无论我们回溯到人类历史的二十万年前还是史前时期，我们的环境始终无法充分利用高智商个体的全部潜能。即使是一万年前的一位天赋异禀的个体，如果他的成长环境复杂程度较低，他的智能潜能可能无法得到充分的激发。对于现代人类而言，尽管环境有所改善，但仍无证据表明我们的环境机会已经超越了我们的认知潜能。

Stephen Jay Gould表达了一种人文关怀的担忧：我们对爱因斯坦的大脑关注似乎比对那些生活在艰苦环境中、面临巨大挑战的潜在天才更为关注。这种担忧提醒我们：一个在丛林中长大的聪明人如果没有适当的刺激和挑战可能会变得毫无意义。同样地，一个拥有超人大脑的AI实体如果被置于普通环境中未必能展现出超越一般人的能力。事实上，如果我们仔细观察那些高智商人群并没有解决重大问题的现实情况就会发现：个体的智能成就不仅仅依赖于他们的大脑潜能和外部环境，还需要借助于强大的外部系统——也就是我们通常所说的“文明”。

我们的智能并非全部蕴藏在我们的大脑之中，而是深深根植于我们所处的文明之中。我们的智能发展离不开语言、教育、科技、互联网等认知工具的辅助和支持。这些工具不仅仅是知识的载体，更是我们思考问题和解决问题的关键手段。它们超越了时空的限制，超越了个体的界限。个体的成功往往依赖于这些外部系统的支持而非仅仅依赖个人的大脑潜能。因此可以说我们是自己的工具的一部分。个体本身的作用是有限的，而真正推动我们进步的是整个文明的积累和推动。即使科学家取得了重大突破，他们的大脑也只是其中的一部分而已。他们的成功离不开计算机、研究人员、论文笔记以及数学符号等外部系统的支持。他们站在巨人的肩膀上取得了成就。个体的认知工作可能并不比芯片上的一个晶体管的工作重要多少。这是对整个社会智能体系的一种反思和重新定位的思考方式。对于超越个人大脑的局限性而实现智能的跨越式增强来说需要整个社会体系的协作和支持来实现递归的智能增强是极为困难的或者说几乎不可能的事情这也是当前对人类社会发展所提出的重要挑战之一。我们需要通过不断积累知识和发展科技来推动整个社会的进步和发展超越个体大脑的局限实现真正的智能增强和突破需要我们共同努力创造出一个更加开放包容协作的社会环境让智慧的火种得以燃烧并照亮我们前进的道路同时我们也需要警惕在追求科技进步的过程中不要忽视了对人文价值的关怀和保护保持科技和人性的平衡和和谐共生。经过几个世纪的共同发展，未来的超人AI会有能力发展出比自己更强大的AI吗？答案是否定的。我们以及现有的智能体都没有设计出超越自身智慧的东西。我们所做的是共同开发更强大的问题解决外部系统。

尽管未来的AI将为我们文明的发展作出贡献，但我们要明白，AI与其他智能系统一样，都是赋能我们文明的技术。提到超人AI的出现被视为奇点，其实这与计算机、书籍或语言的出现并无本质区别。这是一个渐进的过程，而非突然的转变。

关于智能爆炸的论述，即问题解决能力超越人类的“种子AI”出现后会导致突然的、递归性、逃逸式的智能改进循环，其前提是不正确的。我们的问题解决能力主要在外部共同工具中改进，而非局限于生物大脑。尽管存在递归自我改进的系统，但在现实世界复杂系统中，智能和文明的进步是线性的、可测量的，并非爆发式的。

我们所处的环境是一个递归自我改进的环境，从软件到个人投资都是如此。软件的有用性受限于应用的上下文，如同智能受限于其表达的上下文。除了上下文的约束外，系统的其他部分也可能成为递归自我改进的瓶颈。

科技的进步，尤其是科学领域的发展，一直是我们关注的焦点。科学作为一个问题解决系统，与智能紧密相连。它的自我改进特性使得每一次的进步都为后续的发展铺平了道路。从量子物理到激光技术的诞生，再到互联网的出现，科学进步的每一步都是递归自我改进的结果。

尽管我们在科学领域付出了指数级的努力，投入了大量的人力物力，科技的进步却呈现出明显的线性特征。即使在AI时代，尽管人工智能技术在不断进步，但这种进步仍然呈现出一种线性的趋势。这并不是说科技进步停滞不前，而是指其发展的速度并非我们想象中的指数级增长。

那么，为什么会这样呢？是什么因素制约了科技的递归自我改进？实际上，随着科技领域的不断发展，取得突破性成果的难度在逐渐增加，信息论的进步越来越难以超越前人。科研人员之间的共享和协调也变得越来越困难，随着科学知识的不断拓展，教育和培训的时间和精力投入也在不断增加。这些因素共同制约了科技的递归自我改进。

实际上，这种瓶颈、收益递减以及对抗反应存在于我们周围的许多递归过程中。智能的拓展不仅仅依赖于大脑的发展，更需要感知运动功能、环境以及文化的共同进化。我们的大脑只是认知系统的一部分，而这个系统已经在自我改进，且已经进行了很长时间。智能的拓展是一个整体的过程，不能单靠调整大脑的零部件来实现。

我们可以得出结论：智能的拓展是一个长期的过程，需要多方面的共同演进。目前制约我们智能的瓶颈更多的是环境而不是大脑本身。在AI时代，递归智能拓展已经发生，并将继续以大致线性的节奏进行。我们应该理解并接受这种发展速度，并继续探索新的科技领域，为未来的发展铺平道路。我们也需要关注智能拓展的情境性，认识到智能的发展不仅仅是大脑的问题，更是整个文明的发展过程。