关注 | 欧盟抢先发布人工智能道德准则：权限、

导语 据美国科技网站The Verge的报道，经过52名专家的商讨，欧盟委员近日发布了人工智能道德准则。

        参与起草制定这些准则的IBM欧洲法律部门副部长利亚姆·本纳姆表示：“（制定这些准则）就像在造房子之前，需要先打地基。而现在就是做这些事情的时候。”

        该道德准则要求“值得信赖”的人工智能应当满足如下7个条件：

        1.人类的能动性和监管：人工智能不能侵犯人类的自主性。人们不应该被AI系统操纵或胁迫，而应该能够干预或监督软件做出的每一个决定。

        2.技术的健全性和安全性：人工智能应该安全且准确。它不应该易于受到外部攻击的影响，且应该相当可靠。

        3.隐私和数据管理：人工智能系统收集的个人数据应该是安全的、私有的。它不应该让任何人接触，也不应该轻易被盗。

        4.透明性：用于创建人工智能系统的数据和算法应该是可访问的，软件所做的决定应能被人类理解和跟踪。换句话说，操作员应能够解释AI系统所做的决定。

        5.多样性、非歧视和公平性：人工智能提供的服务应面向所有人，无论年龄、性别、种族或其他特征。同样，系统不应该在这些方面存在偏见。

        6.环境和社会福祉：人工智能系统应该是可持续的（即它们应该对生态负责）并“促进积极的社会变革”。

        7.问责制：人工智能系统应该是可审计的，并被纳入企业可举报范畴，以便受到现有规则的保护。应事先告知和报告系统可能产生的负面影响。

        该准则对于未来规范人工智能的发展能够起到多大实质性作用现在还有待观察，不过欧盟《准则》的问世对于人工智能研究确实具有重大的意义。

        解读：

        欧盟负责数字经济的官员玛利亚·加布里埃尔解读了这7项要求，她认为，在人工智能使用上，“透明性”是一切的关键，同时也要“以人为本”。

        加布里埃尔表示：“任何公司在使用人工智能技术时，其受众都应当具有知情权。人们应该知道和他们进行沟通的是算法还是真人。同时，任何由算法做出的决定，都必须由公司出面解释。”

        举例来说，如果一家保险公司依赖人工智能算法拒绝了某项赔偿申请，那么他们应该让消费者知道做出这项决定的依据。同时，还应由人类出面，进行这项决定的最终判断。

        此外，加布里埃尔认为，隐私和数据管理同样非常重要。任何使用人工智能的机构，都应当保护好系统收集的数据，这些数据只能被人工智能和本人访问。

        除了技术方面的准则以外，欧盟制定的准则里还包含了一些相对抽象的概念，例如其要求人工智能必须具有多样性、非歧视和公平性，同时也能够“促进积极的社会变革”。

        由于现阶段人工智能的训练仍旧依赖于巨量数据的输入，因此这些数据将极大程度左右人工智能的公平性。

        加布里埃尔举例说：“如果一家公司使用人工智能系统进行招聘，而他们所使用的数据来源于另一家大量招聘男性雇员的公司，那么这一系统将很可能拒绝女性雇员的加入。”

        “如果人们使用不公平的数据来训练人工智能，那么这将毫无疑问成为一个大问题。”

        据The Verge分析，由于欧盟在投资和前沿研究方面，已经无法与美国和中国一争高下，因此，它才迫不得已选择了伦理作为塑造技术未来的最佳选择。

        正如欧委会负责数字单一市场的副主席安斯普（Andrus Ansip）所说，“有道德的人工智能是一个能够达到双赢的主张，是欧洲在该领域的竞争优势——成为人们可以信赖的，以人为本的人工智能领导者。”

        不过，欧盟在技术道德领域制定的一系列规则，也有可能成为这些技术发展的阻碍。

        在当今前沿计算机科技中，大数据、云计算和人工智能的发展，都离不开巨量数据的支撑。而欧盟的《通用数据保护条例》为网络公司和研究机构的数据搜集设置了极大障碍。

        同样，也有部分研究者怀疑，欧盟制定的人工智能道德准则，将会影响到这一产业的未来发展。

        智库机构数据创新中心（Center for Data Innovation）的高级政策分析师艾琳·奇沃特（Eline Chivot）在接受The Verge采访时说：“欧盟希望通过制定道德标准，来确定自身在全球人工智能发展中的地位，我们对这种方法持怀疑态度。要成为人工智能伦理的领导者，首先你必须在人工智能领域遥遥领先。”

        信息补充：

        据统计，截至2018年初，中国人工智能核心产业规模达到180亿元，带动相关产业规模达到2200亿元。根据预测，到2030年人工智能将为全球GDP带来14%的增长空间，即15.7万亿美元的市场规模，其中中国的GDP增长规模为26%，北美的GDP增长规模为14%，为全球受到人工智能带动效应最大的地区。

        另一方面在国防领域，人工智能对国家军事力量影响早已不言而喻。随着人工智能技术推广，智能化武器的广泛应用将成为可能。深度学习算法可以使智能化武器在虚拟环境中建立武器操控的基本能力，并且借助人工智能系统进行智能化武器的协调行动，最大限度地获得战场优势。

        智能化武器系统不仅能够使人与武器实现实质性分离，使实际伤亡率无限趋近于0，而且没有了感情用事，武器的使用效率和不同武器之间的协作也将大大提升。如在叙利亚战场上，俄军部队已经首开了战例。

        未来，具备人工智能的“无人军团”必将成为大国的“标配”，进一步拉大国与国之间的军力差距，甚至出现单方面“碾压”。

        很明显，对经济和安全产生重大影响的人工智能技术将成为未来国际关系中的重要因素之一。