打开人工智能黑匣子

Dean Pomerleau回首首次遭遇“黑匣子”的那段经历，仿佛就在昨日。那是1991年，他正在进行一项开创性研究，试图教会电脑驾驶汽车。

当时，他作为一名机器人专业的研究生，在美国卡内基·梅隆大学攻读学位。他操控着一辆经过特殊改装的悍马军车，车内装有一台经过编程的计算机。这台计算机能通过摄像机观察路况，解读交通状况，并记录下Pomerleau面对各种状况的应对方式。他的愿望是，最终让这台机器自主掌握方向盘。

每次行驶中，Pomerleau都会对系统进行几分钟的训练，然后让它自行驾驶。一切似乎都在顺利进行，直到有一天，悍马在一座桥头突然偏离方向。他迅速反应，抓住了方向盘，成功避免了一场事故。

回到实验室后，Pomerleau开始探究电脑出错的原因。“我的论文目标就是打开这个黑匣子，了解电脑的思考过程。”他解释道。为了解决这个问题，他将计算机功能编程为“神经网络”，这是一种以大脑为原型的人工智能（AI）。

神经网络就像人脑一样，是不透明的。它并不将所学的东西以数字形式条理清晰地储存，而是以极难解读的方式散布信息。经过对软件对各种视觉刺激的全面测试后，Pomerleau发现了问题的根源：他的“神经网络”误将长草的路沿作为道路方向的指示，因此被桥的存在所迷惑。

25年过去了，打开黑匣子的难度不断增大，但AI技术的复杂性和应用范围却经历了爆炸式增长。如今，Pomerleau在卡内基·梅隆大学担任机器人学兼职教授。比起现在计算机上的巨型神经网络，他的系统只能算是简陋的低配版。海量数据训练AI深度学习的技术已被广泛应用于各种商业领域，从自动驾驶汽车到根据用户浏览历史推荐商品的网站都能看到它的身影。

尽管这些技术在商业领域取得了巨大成功，但它们也凸显了黑匣子问题的重要性。人们想知道这些机器是如何找到有价值的信号的，如何确定它们的正确性，以及人们对深度学习的信任程度应该是多少。

面对这些挑战，AI研究者们正在努力打开黑匣子，以理解其中的网络。但一些专家表示，尽管有所进展，但答案仍然难以让人完全理解。这就像是在试图理解外星生物的感知方式一样困难。

历史上的人工神经网络可以追溯到上世纪50年代初，几乎与计算机的出现同步。这些网络通过模拟排列成不同层次的小计算单元（即神经元）与大量数字“突触”相连来工作。最终的结果是顶层给出的答案，比如判断图形是猫还是狗。这种网络的优势在于其学习能力。但正因为其学习方式与大脑类似，记忆是在许多连接中编码的，而非储存在固定位置，这使得信息分散、难以解读。

对于需要在各自学科中处理大数据的科学家来说，深度学习是一种需要谨慎使用的工具。尽管存在挑战，但人工智能的发展仍在不断前进，黑匣子问题也将继续成为研究的重要课题。想象一下这样的未来场景：在不久的未来，深度学习网络经过乳房X光片的训练，能够洞察出健康女性乳腺组织中潜在的癌症迹象。这一技术的预见能力令人惊叹，正如英国牛津大学的计算机学家Andrea Vedaldi所说，这个网络仿佛能够识别那些可以预测癌症的隐秘标志物。这个神奇的黑匣子一样的工作机制却让人困惑不解。正如Vedaldi所指出的那样，如果机器无法解释它的判断依据，将会给医生和病人带来严重的困扰。医生将如何决定是否对一个携带遗传风险的女性进行乳房切除手术呢？如果连他们也不知道风险的具体来源，这无疑增加了选择的难度。研究的步伐从未停止。早在2012年，一些研究团队就已经开始尝试打开这个黑匣子，探索其内部的奥秘。他们使用了一种深度学习的方法在计算机视觉竞赛中取得了惊人的成绩。Vedaldi团队试图反向运行深度学习算法，理解它如何解读图像数据并发现潜在的癌症风险标志。但问题是复杂的，即使在今天，我们仍然无法完全理解神经网络的工作原理。计算机科学家发现神经网络可能会被一些看似随机噪声的图像或简单的几何形状所迷惑。这让黑匣子问题更加令人担忧。想象一下如果这些弱点被黑客利用的后果——自动驾驶汽车可能被欺骗而发生事故。尽管如此，一些科学家如英国剑桥大学的机器学习研究者Zoubin Ghahramani正在努力寻找解决黑匣子问题的方法，包括研发自动化的机器学习算法和数据科学家工作的自动化软件来提高工作效率和透明度。但这也引发了新的担忧：机器的智能是否可靠到足以信任的地步？对此，一些人认为我们不必过于关注黑匣子问题而忽视了机器学习技术的巨大潜力。因为真实世界本身就是复杂的，有时我们无法用语言解释所有的事情。我们的大脑本身也是一个黑匣子，但我们仍然相信并使用它做出重要的决策。我们需要保持开放的态度来接受机器学习的进步和局限性，并继续探索更智能、更强大的解决方案来解决我们面临的挑战。