外媒：人工智能已能就自身错误发出警告

参考消息网讯，近日外媒报道指出，人工智能领域正在迎来飞速的发展。的技术成果已经可以帮助我们创造出一种具备自我判断能力的系统，它知道何时不能信任人工智能。

据阿根廷布宜诺斯艾利斯经济新闻网报道，这种学习的技术旨在模仿人类大脑的工作方式，并能够权衡不同的因素，在数据基础上确定具体模式。它的分析能力已经超越了人类的分析水平，为人工智能的应用带来了全新的变革。

人工智能如今已经渗透到人类生活的各个领域，如汽车、飞机等交通运输系统，以及医学诊断和外科手术等领域。尽管人工智能尚未达到电影《我，机器人》中的毁灭性程度，也没有像电视剧《黑镜》中那样臭名昭著，但已经出现了能够自主行动的机器。它们的预判能力正在变得越来越强大，甚至能够预测自身何时会出现故障，这对于避免潜在的危机和改善其运行状况来说至关重要。

麻省理工学院计算机科学与人工智能实验室的计算机科学家亚历山大·阿米尼指出，我们不仅需要生成高性能模型的能力，还需要了解何时不能信任这些模型的能力。他和另一位计算机科学家达妮埃拉·鲁斯组成的研究团队正在致力于推动这一领域的发展，以实现人工智能对其自身可靠性的自我意识，他们称之为“证据回归”。

这种新技术代表了迄今为止在类似技术方面取得的进展，它的运行速度快，对计算的需求低，可以在设定信任度的情况下与人类决策同步完成。鲁斯介绍称，通过评估模型的不确定性，我们可以了解该模型预计会出现多少错误，以及还需要哪些数据来改善该模型。

为了更形象地说明这一点，该研究团队将人工智能与汽车进行了比较。在决定是否通过路口或等待的情况下，人工智能可以表现出对其预判的自信或缺乏信心。该网络的能力还包含有关如何改善数据以做出更准确预判的提示。这种技术进步在影响人类安全并可能带来生命危险的情况下显得尤为重要。阿米尼表示，我们已开始看到越来越多的模型走出研究实验室，进入现实世界。

随着人工智能技术的不断进步，我们可以期待在未来会有更多令人惊叹的应用场景出现。这项研究为我们打开了新的视野，让我们看到了人工智能发展的无限可能。编译/田策