知识核 DeepLearning 第一期 深度学习的几度兴衰

学习——感知机的蜕变与时代的崛起

学习，又名，这个名字背后所蕴藏的是一段令人叹为观止的发展历程。这一科技诞生于达特茅斯会议次年，与人工智能紧密相连，成为人工智能领域的一次重大突破。从感知机到学习，这一变迁并非一帆风顺，而是历经坎坷，几经涅槃。

感知机，这个神秘的名字背后，虽借用了人类大脑神经元连接的隐喻，其实质是一个输入和输出两层神经元的线性分类器。面对复杂多变的现实世界，一个线性模型往往无法应对。人工智能的先驱之一明斯基曾对此提出批评，他的著作《感知机》一度使学习陷入困境。就在人工智能即将陷入寒冬之际，一些坚持者开始寻求突破。

为了解决非线性可分的问题，人们为感知机添加了隐藏层，于是诞生了多层感知机。这种结构创新为学习的发展奠定了基础。如何训练这个复杂的网络在当时仍是一大难题。直到BP算法的诞生，为训练多层网络提供了有效的解决方案。这是学习的第二次浪潮。

随着模型复杂度的增加，新的问题开始出现。如何避免局部最优解、如何避免梯度消失等问题成为学习发展的新的挑战。与此统计学习理论也崭露头角，大有取而代之之势。就在学习的复兴似乎已近在眼前。随着计算能力的提升和新方法的涌现，学习开始崭露头角。特别是ReLU、pre-training等训练方法的出现更是为学习的发展注入了新的活力。在2012年的ImageNet大规模视觉识别竞赛中，学习横扫各大竞赛，风头无两。自此以后，互联网巨头纷纷投入巨资，学习的热潮愈演愈烈。

学习的兴衰史也是其更名换姓的历史。从感知机到学习，每一次名字的变化都伴随着技术的突破和重生。这恰恰说明了名字的重要性。若要用五个字概括这次学习的复兴，那应当是“时势造英雄”。人工智能的车轮滚滚向前，三十年河东，三十年河西。联结主义如今风头无两，那么下一次又会是谁？

想要了解更多关于学习的算法细节，知识核的这期视频将为你详细解构。欢迎收看。如果你有任何疑问或想要交流，欢迎联系我们。我们的微信公众号是“知识核”，是coreknowledge@x（此处请填写真实地址）。我们将竭诚为您服务。