人工智能伦理与安全研究中心成立

为了应对人工智能领域潜在的技术风险与隐患，北京智源人工智能研究院近期专门成立了人工智能与安全研究中心。该中心的成立，旨在加强人工智能与安全的研究，推动行业健康、有序发展。中国科学院自动化研究所的曾毅研究员担任该中心主任，引领团队开展深入。

曾毅研究员介绍，研究中心的核心工作将围绕人工智能与安全的多个层面展开。团队将致力于构建低风险的机器学习模型与平台，建立机器学习模型安全性的评估体系，确保人工智能系统的稳定性与可靠性。

团队将积极研究符合人类道德的智能自主学习模型，实现人工智能行为与人类价值观的校准。这一研究将在模拟环境与真实场景中进行广泛验证，确保人工智能的发展符合人类的期望。

研究中心还将建设数据安全示范应用系统，从数据基础设施、数据分级、权限控制到数据审计等多个环节着手，最大限度地防止数据泄密，降低风险。

为了全面应对人工智能风险，研究中心还将构建人工智能风险与安全综合沙盒平台。这一平台将包括自动检测功能，针对数据与算法的安全性、公平性、可追溯性、风险类型、影响程度与影响范围等方面，对人工智能产品及应用进行全方位的风险与安全综合检测与评估。这不仅有助于引导行业健康发展，也为人工智能的广泛应用提供了强有力的支持。

曾毅研究员及其团队将通过深入研究和不断创新，为人工智能的与安全领域贡献中国智慧，助力人工智能行业实现更加健康、可持续的发展。