阿里、清华、RealAI发布全新AI鲁棒性评测平台免费开放18个对抗训练模型

不久前，美国国家公路交通安全管理局公布了令人震惊的数据：在最近报告的自动驾驶事故中，搭载L2级自动驾驶辅助系统的车辆出现了多次严重碰撞事故。这些事故引发了人们对于AI技术的安全问题的担忧。实际上，在人工智能迅速发展的我们也面临着一些新的挑战。比如AI技术在现实生活中的应用，如医疗聊天机器人等，竟然出现了技术缺陷引发的道德问题。这些问题不仅关乎技术的可靠性，更关乎人类的生命安全与健康。

为了应对这些挑战，确保AI技术的健康发展，阿里安全、清华大学以及RealAI联手推出全新的AI安全对抗攻防基准平台。在不久前举办的“中国人工智能产业年会-安全人工智能专题论坛”上，他们发布了最新版本的AIBenchmark平台，为AI技术提供了一个重要的“陪练”和“标尺”。相较于之前的版本，该平台增加了更多的功能和技术，确保更全面地评估AI模型的安全性和鲁棒性。这一平台的发布为AI技术的发展带来了革命性的进步。它使得研究人员可以在模拟攻击场景中评估AI的表现，及时发现和解决可能存在的问题。这不仅为学术界提供了一个宝贵的参考工具，也有助于将AI的研究与应用更紧密地结合实际情况。特别是其增加了分布外的鲁棒性评测，使平台更具真实性和适用性。值得一提的是，清华大学计算机系还为此平台提供了大量先进的对抗训练模型。这将进一步推动AI领域的发展，促进网络空间的健康发展。阿里巴巴人工智能治理与可持续发展研究中心负责人表示：“我们致力于构建一个安全、可靠、可信、可控的技术体系。从源头出发，打造更加安全的AI系统是打造更好科技的关键一环。”这一平台的推出正是他们努力的一部分，旨在确保AI技术的健康发展，为人类带来真正的福祉。