聚焦AI治理｜联合国副秘书长：AI应有“希波克拉

12月18日，联合国副秘书长法布里齐奥霍克希尔德在首届清华大学人工智能合作与治理国际论坛上表示，在人工智能治理领域，除制定标准、准则和禁令，还需要一些途径优待、支持AI的正向使用和发展，谴责用AI作恶或开发其负面作用，以此阻止技术滥用，使技术造福而不是伤害人类。

“我们应该考虑《生命3.0》的作者马克斯泰格马克（Max Tegmark）的建议这一建议联合国秘书长数字合作高级别小组也有谈及在数字合作中为AI研究者和实践者创造一种‘希波克拉底誓言’（Hippocratic oath），使他们像医疗从业者一样，将人类福祉放在首位，不作恶。”

清华大学人工智能合作与治理国际论坛由清华大学人工智能国际治理研究院（I-AIIG）主办，联合国开发计划署（UNDP）作为国际机构提供支持。论坛采用线上与线下结合的形式，探讨人工智能合作与治理的机遇与挑战。

霍克希尔德在论坛中表示，新冠病毒的大流行让我们更加依赖AI系统的预测功能。一方面，AI是目前最好的方案，让我们能更好地处理新冠的变异、气候变化以及其他有害的全球性现象。“另一方面，AI的预测功能也被证明在突发情况下并不完全可靠，其让人难以抵御一些系统性错误。”

霍克希尔德说，AI的局限和危害越来越明显。犯罪分子能用AI作出非常复杂的网络攻击，有些使用致命性自动化武器的犯罪分子却懂得如何反追踪。AI可被用于大规模监视，进行政治压迫或者商业剥削。“误用AI也可能能造成意外伤害，尽管算法可能没有偏向性，但如果使用了有偏向性的数据，AI将会扩大就业、司法和融资机会的不平等现象。”

霍克希尔德呼吁，为了应对这一复杂、具有挑战性的全球格局，迫切需要全球领导人和多方利益相关者在最高层面的合作。“没有任何一个单一的国家或公司能够设计出全面、符合所有人预期的指导方针来管理AI的发展以及它在全球引起的连锁反应。我们必须团结起来，为AI创建一个可行的国际合作和治理框架。”

他分析称，实现这个目标面临着诸多挑战，主要是数字鸿沟、现有的AI项目/倡议缺乏发展中国家的参与、发展中国家的数据不准确和不完整等等。，我们需要灵活、创新的全球AI合作和治理模式,优先考虑负责任的、透明的AI使用，并将AI使用的隐私和保护置于首位。

他称，“在所有新兴技术中，AI最具潜力，水能载舟，亦能覆舟。这也是为什么在这一领域的国际合作风险最高。AI应用技术的发展速度不仅快于其规范和监管进程，而且快于我们对其影响的了解，这一事实凸显了该呼吁的紧迫性。”