脑科学与人工智能合作与分离的历史

在人工智能的演进历程中，统计方法以其坚实的数学基础，成为九十年代后的主流，其中以支持向量机为代表。与此联结主义经历了一段漫长的低谷期。在这一时期，Hinton以其敏锐的洞察力坚信联结主义终将重放异彩。在他的不懈努力下，Hopefield网络得以迅速发展，并成功演化出玻尔兹曼机这一强大模型。玻尔兹曼机的进一步演化产生了受限玻尔兹曼机、自编码器等变体，最终逐渐逼近我们现今所见的网络结构。

卷积网络CNN的崛起可谓波澜壮阔，其在视觉处理任务上不断刷新纪录，标志着学习时代的正式开启。如果你认为这次人工智能的兴起是因为对大脑的借鉴，那么你会对学习的本质有所误解。事实上，这次学习的成功，源于学习专家对脑科学的背离。CNN虽然模拟了大脑视皮层结构，运用层级编码和局部网络连接等生物原理，但其网络的训练方法却是一种完全非生物的方法。如何将信息存储在无数神经元构成的网络连接中，让网络进行学习，一直是最大的挑战。

早期，人们曾尝试使用Hebian learning等具有生物基础的学习方法，但这种方法实施起来极为困难。Hinton等人毅然决然地选择了没有生物支撑但更为高效的反向传播算法，最终成功训练出高效的神经网络。数据如同般不断塑造着神经网络的结构，虽然每次只进行微小的调整，但当数据量足够庞大时，就会发生质的飞跃。

CNN的爆发始于2012年，那一年人们提出了Alex。Alex的关键性改进在于使用了Relu作为激活函数，取代了更为生物基础的Sigmoid函数。这一调整使得整个网络的信息流通更为顺畅。而在学习的另一条主线中，LSTM的提出模拟了人类的记忆能力，开始处理自然语言任务。值得注意的是，LSTM的构造并没有遵循大脑的结构，而是直接在网络中引入了类似逻辑门的结构来控制信息。

总体来看，人工智能虽然在诞生之初借鉴了生物学原理，但其最终的成功却源于对生物细节的抛弃，转而采用更为高效的数理工科思维。生物学的细节繁多复杂，其中一些可能是进化的副产品或是生物适应环境所做的妥协，而非智能所必需。对生物细节的舍弃极大地解放了人工智能的发展。