MIT发现AI学习更简便的小神经网

随着人工智能技术的日新月异，各式各样的AI产品如雨后春笋般涌现。虽然这些AI产品的功能和用途各异，但它们背后的技术基石却是深度神经网（Deep Neural Networks）。深度神经网络存在两大瓶颈：需要大量的训练数据和昂贵的计算成本。

五月七日，据媒体报道，MIT的研究人员在神经网络领域取得了突破性进展。他们在最新论文中宣布，成功将神经网络缩小了十倍，不仅成本大幅降低，训练速度也更快。

在以往的神经网络训练中，工程师们往往需要耗费大量时间和昂贵的GPU资源来处理庞大的数据集。CSAIL（电脑科学和人工智能研究所）的研究人员发现了一种精准预测的小型下游网络。这一发现源于一个有趣的“假设”，就像购买中奖一样，研究人员在训练下游网络时，只需专注于那些关键的部分而非全面铺开。换句话说，他们试图找到一种方法，跳过不必要的步骤，直接抵达高效的下游网络，从而极大地节省了训练时间。

CSAIL表示，虽然许多研究人员一直在努力寻找如何去除神经网络中的冗余内容，但确定如何有效地找到下游网络以及如何理解某些学习机制为何比其他方法更好仍然是一大挑战。这需要数年时间和持续的努力才能真正实现优化方法并应用于实际生产中。尽管我们已经看到了希望的曙光，但真正的实现还需要一些时间。