上海市人工智能产业安全专家咨询委员会成立 发

今天下午，上海市人工智能产业安全专家咨询委员会成立仪式暨第一次会议召开。会议发布了《人工智能安全发展上海倡议》，面向全球启动人工智能产业安全创新实践案例和优秀论文征集活动。

上海市人工智能产业安全专家咨询委员会是在上海市人工智能战略咨询专家委员会基础上成立的，旨在瞄准国际人工智能产业发展前沿，服务上海发展的定位和需求，构建专家协同网络，推动人工智能产业健康发展。安全专委会由来自高校、科研院所和企业的相关专家组成，中国科学院院士何积丰担任主任。秘书处设在上海赛博网络安全产业创新研究院，承担相关日常工作。

当前，对人工智能产生的安全风险加强战略性、前瞻性的研究部署，逐渐建立相应的法律法规、伦理规范和政策体系，已经成为国内外的共识。一些国家、地区和国际组织、私营企业、社会团体等积极推动人工智能安全与治理的进程。中国是世界人工智能安全治理的重要参与者，上海正在加快推进人工智能高地建设，此次会议发布的《人工智能安全发展上海倡议》不仅是安全专委会成立后发布的首份倡议文件，更是上海向全国、全世界发出的铮铮宣言。倡议在充分吸纳国内外人工智能安全共识的基础上，从应对人工智能安全挑战，守护智能时代人类未来的主旨出发，包含“面向未来、以人为本、责任明晰、隐私保护、算法公正、透明监管、和平利用、开放合作”等八大目标原则及其基本要求。

会上，安全专委会主任何积丰院士宣布启动2019世界人工智能产业安全创新实践案例征集和优秀论文征集活动。面向全球企业征集人工智能产业安全领域的标准规范、研发成果、产品/服务、解决方案等实践案例，面向全球高校、科研院所、国际组织等机构中从事人工智能安全领域研究的科研人员和青年学生，征集高质量、高水平的学术论文。征集活动的评选成果将在2019世界人工智能大会期间对外公布。

人工智能安全发展上海倡议全文如下

为了应对人工智能安全挑战，守护智能时代人类未来，上海市人工智能产业安全专家咨询委员会在充分吸纳国内外人工智能安全共识的基础上，联合人工智能安全领域的专家学者和产业界同仁，共同发起“人工智能安全发展上海倡议”，内容如下

面向未来人工智能发展需要实现创新与安全的协同，以安全保障创新，以创新驱动安全。在确保人工智能自身安全的，积极将人工智能技术应用于解决人类社会的安全难题。

以人为本国际社会应一道科学规划人工智能的发展路径，确保人工智能按照人类预期并服务人类福祉方向发展，机器自主进化和自我复制等关键进程须进行风险评估和安全监管。

责任明晰人工智能发展应当建立完备的安全责任框架，需要针对人工智能的应用场景，不断创新法律法规和伦理规范，明确人工智能安全责任认定和分担机制。

隐私保护人工智能发展需要保障用户的数据安全，人工智能发展不得以牺牲用户隐私为代价，需要加强数据保护立法，丰富人工智能的技术路线，不断强化人工智能应用中的用户隐私保护。

算法公正人工智能发展应避免由于算法设计对公众产生的危害，须明确算法动机和可解释性，克服算法设计和数据收集引发的不公正影响。

透明监管人工智能发展应当避免技术黑箱导致的安全风险，需要通过建立可审查、可回溯、可推演的监管机制，确保目标功能和技术实现的统一。

和平利用人工智能技术应当审慎运用在军事领域，自主化武器的研发和使用须遵循严格的风险评估，避免由于人工智能技术在军事领域滥用对全球和平稳定的威胁。

开放合作人工智能发展需要各国、各方的协同共进，应当积极在国际范围建立人工智能安全发展的规范和标准，避免技术和政策不兼容导致的安全风险。