2019年全球AI治理观察报告在沪发布，三点进展值

4月30日，《全球人工智能治理年度观察2019》英文版（AI GOVERNANCE IN 2019: A YEAR IN REVIEW OBSERVATIONS OF 50 GLOBAL EXPERTS）在沪发布。

这是全球首份由全球业内顶级专家共同参与撰写的人工智能治理报告，也是首份由中国智库、发起全球参与的人工智能治理报告。包括清华大学战略与安全研究中心主任傅莹、图灵奖获得者John Hopcroft、诺贝尔和平奖获得者Irakli Beridze、欧洲议会议员Eva Kaili、AAAI（国际人工智能大会）2021主席杨强和2020主席Francesca Rossi在内的50位（44组）专家撰稿参与。

基于专家对2019年全球人工智能治理总体形势的判断，报告认为当前全球人工智能治理体系正处于成型的关键时期，尤其表现出五个方面的特点

1. 全球化治理主体全面到位，重要国际组织和国家地区政府持续发布准则。

2. 安全化治理议题向安全问题转移，安全问题逐步成为行业内外关注焦点。

3. 操作化治理规则的法律效力加强，“硬法”逐渐增多。

4. 市场化治理手段市场化，企业成为越来越重要的治理主体。

5. 建制化治理机构建制化，政府内专门性工作机构和学术界专业性研究机构增多。

从政府的全球战略角度来说，2019年度有三方面进展尤其值得关注。

1. OECD人工智能原则发布并影响广泛。

从全世界范围来看，作为政府间组织的OECD在2019年5月22日发布的《经合组织人工智能原则》。所有三十六个OECD成员国以及六个非成员国都签署了该原则，欧盟委员会也对该原则表示支持。

2. 等专门法发布，人工智能治理进入“软法”向“硬法”过渡的新阶段。

美国加利福尼亚州要求把所有试图影响加州居民投票或购买行为的自动在线账户公开标识为机器人；旧金山等地出台法律禁止应用，对当前比较普遍的技术进行了直接的规制。

3. 企业更主动参与并发挥作用，人工智能治理从政府主导向“政府+市场”主导转型。

Deepfake视频换脸术引发广泛负面影响后，Facebook、Partnership AI和其他组织发起了“深度造假”视频检测挑战赛。谷歌也发布了一个数据集来帮助检测。

该报告由上海市科学学研究所团队牵头，联合国际合作伙伴共同完成。以人类命运共同体理念，通过全球作者、全球编辑和全球读者推进全球沟通与合作。

上海市科学学研究所副研究员李辉对澎湃新闻等媒体表示，2019年可以看到来自法学、管理学、国际关系、哲学等人文社科领域专家纷纷涉足人工智能治理领域，成立了许多机构，提出了更多方案，将成为未来全球AI治理的基础性思想资源。

，产业界的“自律”实践和探索也值得关注，甚至可以说走在前沿。企业不仅是AI治理的对象，更有可能发挥AI治理的力量。

从重点国家和地区发布的政策来看，2019年欧盟发布的可信赖人工智能治理规则具有一定的全球影响力，值得关注的还有新加坡发布的人工智能规则，其在可操作性方面优点突出。中国已然在AI技术开发和产业应用上走在前列，在人工智能治理方面也取得了积极进展，尤其是国家新一代人工智能治理专业委员会2019年发布的《新一代人工智能治理原则发展负责任的人工智能》引起了全球广泛关注。

据悉，上海国家新一代人工智能创新发展试验区重点布局了人工智能治理工作，在科技部和上海市科委指导下，上海市科学学研究所承担了试验区专家委员会秘书处工作，在2019世界人工智能大会举办了“人工智能治理论坛”， 2020世界人工智能大会治理论坛正在筹备中。