2022世界人工智能大会 唯有安全可信AI才能穿越技术周期

在世界人工智能大会可信AI论坛上，瑞莱智慧的高级副总裁朱萌详细探讨了人工智能领域的安全问题。他指出，随着人工智能的高速发展，我们面临着一系列的挑战和风险。为此，瑞莱智慧提出了解决人工智能安全问题的三部曲，即发掘风险、建设治理体系、探寻技术落地方案。

自人工智能概念诞生以来，已经经历了两个低谷和两次高潮。目前，我们正处于第三代人工智能的探索阶段。学界普遍认为，以数据驱动的深度学习已经接近其技术潜力的“天花板”，需要寻找新的突破点。瑞莱智慧的合伙人朱萌指出，现有的深度学习系统非常脆弱，面临着新的风险和问题，如对抗样本攻击和数据投毒等。

为了解决这些问题，瑞莱智慧通过成立人工智能治理研究院，开展了一系列的工作。他们搭建了一系列安全可控的新一代人工智能基础设施，包括AI系统防火墙、杀毒软件、隐私保护计算平台和深度伪造内容检测平台等。这些平台旨在从根本上增强人工智能的安全性、可靠性和可控性，并在政务、金融、工业互联网等高价值场景中发挥了重要作用。

朱萌强调，人工智能的安全风险可以从系统和人两个视角来分析。系统层面的风险主要来自于人工智能系统的脆弱性和结构性漏洞，而人层面的风险则主要来自于人的滥用和恶意应用。为了应对这些风险，瑞莱智慧积极参与规则的建立，支撑立法工作，开展技术探索，并建立了从法规到技术实践的映射模型。

瑞莱智慧的这一系列行动得到了业界的广泛认可和支持。他们的研究成果不仅有助于推动人工智能的稳健发展，也有助于提高人工智能技术的安全性和可信度。随着第三代人工智能的不断发展，我们有理由相信，未来的人工智能将更加安全、可靠和可控。