在超级人工智能出现之前，不如先想想怎么开发

大家对于人工智能的态度是不一样的，有人期待人工智能改善我们的生活，也有人担心，人工智能为恶所用，给我们带来灾难。在2019年的全球新兴科技峰会上，全球副总裁 Beena Ammanath表示，她对人工智能的发展持乐观的态度，相信人工智能会帮助我们成为更好的人类。

而且，AI的发展似乎也比其它任何技术的发展都要快。她指出，人工智能的发展会经历三个阶段。第一个阶段是狭义人工智能，这个阶段的工人智能能够在象棋，围棋，玩纸牌等规则明确的任务中，取得超越人类的成绩。第二个阶段是通用人工智能，它可以完成人类所做的所有事情，它的能力水平和人类相当，能力范围除了一般任务还能涉足创造性的工作。第三个阶段是超级人工智能，这个阶段的人工智能比人类所有的智力加起来还要强大。这才是真正的人工智能。

但她强调，人类现在还只处于第一阶段的人工智能，我们还没有能力打造第二和第三个阶段的人工智能，因为电脑运行的方式和人脑还有很大的差别。人脑的构造异常的复杂，在人类看来十分简单的任务，让电脑去执行就非常的困难。在现在的电脑构造上面模拟人脑的运行是一项极具挑战性的任务，一旦实现了超级人工智能，它将具有世界上最聪明的人的集体智慧。

Beena Ammanath用一个比喻说明了人工智能对人类的重要性如果把蒸汽机的发明是对人类肌肉力量的解放，那么人工智能就是对人类大脑的解放。

17世纪以前，人类的科技发展十分地缓慢，直到蒸汽机的发明后，人类的解放力得到了解放，生活生产方式发生了巨变，工厂有了批量的生产，货物实现了大范围的运输。而现在我们正在经历着一场新的革命。这场革命的主角人工智能将能够解现阶段的问题，比如防治癌症和预防饥荒。

过去的一百年发生了天翻地覆的变化。如果我们去看1917年和2017年这个识字率，在1917年大概是23%，到100年之后的2017年，它提高到了86%，而汽车的价格在1917年是400美元，现在平均是35000美元。在1917年的时候，只有8%的家庭有电话，而现在几乎没有人出门不带手机。

1917年，灯的开关是当时最主要的发明，到了2017年，最主要的技术发明是基因编辑。这个技术帮助我们重新编辑、定义人的生活和寿命。我们之前听到了很多，100年后人们的生活会变成什么样子，可能1917年的人没有办法想象我们现在的世界，现在的我们可以确定，100年后一定是人工智能大行其道的世界。

“而在实现超级人工智能的道路上，我们要打造出可以信赖的人工智能。” Beena Ammanath说到。

是透明度。人工智能的模型在做决策的时候，是否可以解释成我们能听懂的东西，我们需要人工智能是可解释的，是可以理解的，这样才可以真正信任人工智能系统。

是公平。我们在人工智能的数据集中要尽可能减少偏见。因为很多时候，人也是有偏见的，这是由我们的背景、文化、经历决定的。把这种偏见编进了人工智能的代码之中，它就会造成很多负面的影响。

然后是责任，如果人工智能的发展到达了一定的规模，如果它的表现与起初的设计冲突，谁来负责呢？是开发者吗，做测试的人，设计师，还是发行人工智能版本的公司？我们应该有合适的控制机制，避免这些系统发生错误。

她还指出，人工智能的安全性也值得关注。我们怎么能保证所有的数据集都是安全可靠的，万一有漏洞，受到了攻击或者黑客的胁持该怎么办。

治理也是一个重要的方面。我们目前是否有相应的政策，保证我们有合理的治理机制。如果人工智能的系统出现了差错，我们应该如何治理以防差错扩散到整个社会。

“我的信念是这样的，只要我们走在正确的道路上，那么人工智能就会和人共同合作，共同存在，而不是属于竞争的模式，我相信人工智能可以帮助我们解决非常大的挑战，比如说治愈癌症、应对气候变化。” Ammanath说。