发展负责任的人工智能中国首次发布人工智能治理原则

6月17日，国家新一代人工智能治理专业委员会正式发布了备受瞩目的《新一代人工智能治理原则——发展负责任的人工智能》（以下简称《治理原则》）。这份报告不仅为我们提供了一个人工智能治理的框架，更是为行业的未来发展指明了行动指南。

这份《治理原则》突出了发展负责任的人工智能为核心主题，强调了人机和谐、公平公正、共享共赢、尊重隐私、安全可控、共担责任、开放协作和敏捷治理等八大原则。那么，为什么我国要发布这一原则呢？

科技部战略规划司副司长张旭表示，近年来人工智能的快速发展正在深刻改变我们的生活和世界。为了促进其健康发展，加强人工智能法律、、社会问题的探讨，新一代人工智能发展规划推进办公室成立了国家新一代人工智能治理专业委员会。经过网上建议征集、专家研讨和多方意见征求等环节，最终凝聚了广泛共识，起草了这份《治理原则》。

清华大学苏世民书院院长、国家新一代人工智能治理专业委员会主任薛澜介绍，该《治理原则》旨在更好地协调人工智能发展与治理的关系，确保人工智能的安全可靠，推动经济、社会及生态的可持续发展，共建人类命运共同体。中国在人工智能应用领域的研究基础良好，过去几年中，中国人工智能吸引的投资总量位居世界第一。《治理原则》将促进中国的人工智能更上一层楼。

那么，中国的人工智能治理原则与世界上其他国家的有什么不同呢？中科院自动化所研究员、国家新一代人工智能治理专业委员会委员曾毅表示，我们的不同点在于强调经济、社会及生态的可持续发展，而非仅仅推动人类发展；我们强调以国际协作模式共建人类命运共同体，强调包容共享、开放协作。

关于《治理原则》与法制工作的衔接问题，薛澜表示，由于人工智能技术发展迅速，预测性较差，因此按常规程序治理存在困难。我们提出了敏捷治理原则，更多地通过《治理原则》和行业自律来进行治理。该《治理原则》也为下一步的人工智能立法工作提供了依据和基础。

上海大学教授、国家新一代人工智能治理专业委员会委员李仁涵表示，《治理原则》将推动人工智能在社会各领域有价值且有序地应用。他建议各级在人工智能发展中融入《治理原则》，研究者也应将其嵌入研究源头，同时加强普及工作，让人工智能更加贴近大众。

最后附上《新一代人工智能治理原则——发展负责任的人工智能》的详细内容。该原则指出，全球人工智能发展进入新阶段，正在深刻改变人类社会生活。为促进新一代人工智能的健康发展，确保安全可靠可控，推动经济、社会及生态可持续发展，各方应遵循和谐友好、公平公正、包容共享等原则，共建人类命运共同体。关于人工智能的治理原则，本文阐述了八大核心观点：

一、尊重隐私。人工智能的发展必须以尊重和保护个人隐私为基础，确保个人的知情权和选择权得到充分保障。对于个人信息的收集、存储、处理和使用等环节，我们必须设定明确的边界和规范。我们也要完善个人数据授权撤销机制，坚决反对任何非法收集、窃取、篡改和泄露个人信息的行为。

二、安全可控。人工智能系统需要具备更高的透明性、可解释性、可靠性和可控性。我们努力实现人工智能系统的可审核、可监督、可追溯和可信赖。我们高度关注人工智能系统的安全，努力提升人工智能的鲁棒性及抗干扰性，形成完善的人工智能安全评估和管控能力。

三、共担责任。人工智能的研发者、使用者及其他相关方应具备高度的社会责任感和自律意识。我们严格遵守法律法规、道德和标准规范，建立人工智能问责机制，明确各方的责任。在人工智能应用过程中，我们应确保人类的知情权，并告知可能产生的风险和影响，防范利用人工智能进行非法活动。

四、开放协作。我们鼓励在人工智能领域的跨学科、跨领域、跨地区、跨国界的交流合作。我们积极推动国际组织、部门、科研机构、教育机构、企业、社会组织、公众在人工智能发展与治理中的协调互动。通过国际对话与合作，我们希望在充分尊重各国人工智能治理原则和实践的前提下，共同推动形成具有广泛共识的国际人工智能治理框架和标准规范。

五、敏捷治理。我们尊重人工智能的发展规律，在推动其创新发展、有序发展的始终保持警惕，及时发现和解决可能引发的风险。我们将不断提升智能化技术手段，优化管理机制，完善治理体系，确保治理原则贯穿人工智能产品和服务的全生命周期。对于未来更高级的人工智能的潜在风险，我们也会持续开展研究和预判，确保人工智能始终朝着有利于人类的方向发展。

以上观点由国家新一代人工智能治理专业委员会于2019年6月17日提出。