对AI出错零容忍美国加强AI推理解释能力研究

随着硅谷私企引领人工智能（AI）的迅猛发展，美国国防部已经敏锐地察觉到这一变革的潜力，随即作出响应，发布报告表示将“立即采取行动”以加速AI和自动化技术的研发。在《麻省理工技术评论》杂志网站的报道中，美国国防高级研究计划局（DARPA）已经资助了13个科研团队，致力于赋予AI一项全新的本领——在技术的支撑下拥有更强的推理和解释能力。

学习和相关技术已经极大地提升了AI的声音识别和图片分类等能力，并在众多领域得到广泛应用。尽管学习技术取得了显著的进步，但它仍然面临一项挑战：即如何理解并清晰地得出想要的结论。例如，学习系统可以轻松识别出照片中的一只猫，但它无法详细解释猫的胡须、眼睛等特征，只能给出一个模糊的答案，甚至可能将印有小猫图案的毛毯误识为一只真实的猫。

对于军事用途的AI，这种模糊和错误是绝对无法接受的。DARPA的项目主管大卫·冈宁对此表示：“在汽车和军事等重要应用领域，AI需要掌握推理和解释的技能。我们决定增加投入，以开发出具备这些能力的创新方法。”

在获得DARPA资金支持的研究团队中，有一家公司正在研发一种新型的学习系统，该系统能够分析并解释分类图片中的每个细节。还有一个研究团队已经开发出一个计算机界面，该界面可以解释数据、视频和人类语言等，并且已经进入实验阶段。

除了这些进展，DARPA还资助了德州农工大学胡夏教授领导的研究团队。他们认为，拥有推理解释能力的AI不仅适用于军事领域，其在医药、法律和教育等领域同样具有巨大的潜力。这些领域的专家对错误的容忍度极低，只有让AI变得更加可靠，他们才会欣然接受AI给出的结果。这次DARPA的投资不仅是为了应对军事需求，更是为了推动AI技术在各个领域的发展，为人类的未来创造更多的可能性。