何为有“人性”的人工智能

编者按在接下来的一段时间里，UDACITY 将联合极客公园（IDgeekpark）推出一档视频对话节目。每期节目中， Sebastian Thrun（Google 无人车之父、UDACITY 创始人）都会对一位科技领域内的大咖进行访谈，话题内容涉及人工智能、等多个领域。

本次做客的嘉宾是 AI 界的传奇人物李飞飞。Sebastian 和她聊了聊「以人为本」的人工智能，重返斯坦福大学后的成果和心得，以及「挑战不可能」的心路历程。

在文章开始之前，我们想知道你如何看待人与人工智能的关系？欢迎在下方投票中表明你的态度，并查看其他人的看法。如果有其他想法，欢迎分享在文末评论区，看看有多少人与你持同样的看法。

正文开始

UDACITY 创始人 Sebastian Thrun 对话斯坦福大学教授李飞飞，畅谈「以人为本」的人工智能

李飞飞（Fei-Fei Li）不仅是斯坦福大学计算机科学的教授，还被邀请成为 Google Cloud 首席科学家，并在上海成立 Google AI 研究中心，提出了「AI 没有国界，AI 的福祉也没有边界」的重要理论。2018 年 9 月，李飞飞回到大学任教，与斯坦福大学前教务长 John Etchemendy 联合建立了以人为本的人工智能研究所（Institute for Human Centered Artificial Intelligence，简称 HAI），致力于「让智能机器更加以人为本，怀有善意，帮助人类解决一些最有意义难题」的研究。

在李飞飞看来，人工智能的发展不会只展示利好的一面。机器不能取代人类做所有的决策，在很多 AI 的应用中，人类仍然是其中必不可少的一环。所以从「以人为本」的初衷出发，李飞飞也强调了这项研究需要遵守的三个原则

发展 AI 的过程中必须考虑 AI 对人类社会的影响；

AI 的应用是为了赋能人类，而非取代人类；

AI 必须尽可能像人类智慧一样敏感、细腻、有深度。

她曾经说过「做研究要做长远的有影响的，不要只看眼前的潮流，大家还是致力于做踏踏实实有影响力的研究。」智能机器的普及将会给我们的社会带来什么？会对文化造成怎样的影响？这些都是未知数。所以我们必须要投入时间、资源和广泛的专业知识来理解这项技术，预测它将带来的可能性并有责任地进行引导，确保它的设计，它在社会中的角色，它的影响是人性化的。

斯坦福大学教授 李飞飞（Fei-Fei Li）| 极客公园

极客公园（IDgeekpark）邀请到了优达学城及人工智能课程开发经理杨诗宇，对 Sebastian 和 李飞飞的对话内容进行了解读，并就人工智能的商业化、发展前景以及等相关问题进行了深入讨论。

Q1就李飞飞教授主导的「以人为中心的 AI」而言，这是否意味着重点将放在人文对 AI 发展的引导和影响上吗？

杨诗宇「以人为本」的 AI 并不是说重点将放在人文社科等科学中，而是强调人文社科对于 AI 的发展同样重要。因为我们习惯性地认为 AI 只是理工类的一个分支，或者更狭隘地来说是计算机学科的一个分支。李飞飞教授认为 AI 是一门交叉学科，并且 AI 本身没有任何价值，它只是为人所用才有价值。那么在人的领域，不仅仅有理性，而且还有感性的成分，所以对于 AI 的发展来讲，人文社科应该是一项需要被挖掘的领域，但并不是整个 AI 的发展重心变为人文领域。

Q2从商业化的角度考虑，以人为本的 AI 未来会面临哪些挑战和机遇？

杨诗宇从商业化角度来看，目前的挑战与机遇并存。从 AI 整个的发展史来看，AI 几起几落，一直在不断的周期中循环，也许不久的将来也会有这样的周期出现，可能也会热度下调。那么在热度回落的时候，资本的注入是否会持续，将是一个巨大的挑战。

，目前国内基础学科的建设相对于欧美地区还是有一定的差距。基础创新学科的建设需要一个漫长的过程，并且最终的成果未必有保证。我们商业是否有足够的耐心，可以让中国更多的学者有一个良好的环境去研发更新一代的技术，就像李飞飞教授那样，埋头苦干几年搭建一个巨大的数据集那样的基础性工作，这是一个挑战。

另一方面，对于中国来说，我们从来不乏对于高新科技的应用，对于 AI 技术也是。所以，不仅仅是 AI，结合、 等技术，会有一大批新兴应用产生。这对于中国这样人数众多的国家来说，潜在着巨大的市常高新科技的人才也会产生更多的缺口，等待着开发人员的投入，以及资本市场的进入。

Q3人工智能和人类如何共存？您认为以人为本的 AI 系统应该遵循怎样的设计原则？

杨诗宇李飞飞教授说用动词「增强」来代替「代替」，也就是人工智能应该是提高人类的生活质量，并不是代替人们而生。人工智能其实和其他的科技一样，都是为了造福人类。我们从工业革命开始，每一项新的技术、新的发明在普及之前，都会担心人类会不会被这些新的技术所替代。但我们现在看到，一项新技术普及之后，虽然会淘汰一些工作，会应运而生大量其他的新工作，共存并不存在问题。

「以人为本」的 AI 系统应该遵循如何让人们的生活变得更好的原则进行，而不是朝着侵犯人类、毁灭人类道路的原则。我听过一句话枪不会杀人，杀人的是拿枪的人。任何技术包括 AI 同样也是这样的道理。正如李飞飞教授所说，AI 技术本身并无价值，有价值的是在于人类如何利用这些 AI 技术发展自己。我们可以利用解放人们的双手双脚，节约人类每天在交通上所花的时间。我们可以利用 AI 帮助医生无疲劳地诊断疾病，解放医生某项重复劳动的，也能大大降低误诊率。这些就是「以人为本」AI 技术发展最好的榜样。确定了正确的方向，剩下的坚持就好了。就像李飞飞教授攻读交叉学科的博士学位，以及完成枯燥的 ImageNet 数据库的建设一样。

Q4如何理解飞飞教授提到的「augment and enhance human but not replace Human」?

杨诗宇举个例子。电吉他在发明之初，很多当时年轻的音乐人有着很疯狂的热爱，有一众的音乐爱好者因为对于传统古典吉他与民谣吉他的喜爱，或者是因为担心电吉他会挑战古典吉他或者民谣吉他的地位而产生天然的抗拒。他们一来觉得电吉他那种电子音效还有其他的效果器处理的声音并不是传统的震动发生，不能算是真正的音乐，反而是破坏了音乐的美感。后来，电吉他的出现催生了摇滚乐，出现了很多摇滚乐队，而古典和民谣吉他并没有因为他们的出现而落寞。相反，这几种不同类型的吉他相辅相成，在各自不同的子领域发挥着自己的光芒，共同为整个音乐界充满多样性的发展做出了贡献。

同样，人工智能也是如此。Alpha Go 的出现并不会降低我们对围棋的热爱，反而会促使我们通过 Alpha Go 学习到新围棋的玩法及思路。这就是李飞飞教授所指的「augment and enhance human」。AI 可以帮助我们获得更好的服务，更好的生活。

Q5人工智能领域的研究人员应该与科技公司建立怎样的合作模式？商业化绝大部分是利益驱动的，如何保证互联网公司的产品践行了正确的 AI 理念？

杨诗宇现如今，很多公司都设有研究部或者研究院。这些公司中有的处于互联网行业，还有一些处于其他行业，如金融、智能医疗、安防等等。具体的如阿里的达摩研究院，平安的壹账通加马研究院。他们设立研究部的目的并不是像传统高校那样为了发研究报告，而是结合公司的实际落地项目及产品开发。这样的设置就是在解决学术界与工业界可能会脱钩的风险，快速验证前沿技术落地的可能性，将技术和商业的利益紧密结合在一起。

，现如今的公司若想要设计一款成功的 AI 赋能的产品，都必须从人们的实际需求出发。这本身就是「以人为本」。只有「以人为本」的产品才会有更大的人群客户，获取更大的利益。所以若「以人为本」是正确的 AI 理念，就不会存在保不保证的问题。脱离人类需求的商业模式就不会出生。

Q6未来人工智能的发展应该要有怎样的指导原则？

杨诗宇正如李飞飞教授所说，人工智能并不只是计算机的一个分支，而是要将 AI 技术当做是一个交叉领域的技术。不仅仅是拥有理工学科，还要结合人文社科，多角度去思考 AI 为人类哪些地方赋能，可以使人类的生活更加便捷，包括新时代的金融、医疗、交通通过「以人为本」的 AI 得到有力的保障。

Q7您认为人和机器应该保持一种怎样的合作和信任关系？

杨诗宇新技术一直都是因为人类有大量的需求而诞生。但很多人一开始对于新技术都会产生恐惧。人们大多数的恐惧都是因为未知。没有见过，所以会产生恐惧。但我们回顾历史就会发现，工业革命带来了新的工作效率，互联网的诞生改变了我们整个世界。也许下一个突破就在于我们如何运用 AI。AI 并不可怕，就像其他新技术一样，值得我们信赖。只要我们坚信，AI 的诞生，目的是增强我们人类，是为我们人类所服务，我们就会逐渐的信任他们。就像我们的前辈当初放下马匹，改用汽车，使之成为最快，最便捷的交通工具一样。只要有一段时间的过渡，我们自然就会了解 AI，熟知 AI，信任 AI。

Q8很多观点认为人在实现的过程中是绊脚石的角色？对此您是怎么看的？

杨诗宇如果没有人，才会寸步难行。人类是的先行导师。就是在不断模仿人类最优秀的驾驶行为，并将这些行为储存在模型的参数中，快速复制给其他的车辆，让其他刚刚建立好的汽车瞬间拥有「先行者」的「经验」。这才有了技术的飞速成长。

至于如何普及以及道德伦理上的事物是从一个角度去看待这件技术革新的事情。我想，历史上任何一项新技术的发明都会冲击旧的事物，要改变一些人们的习惯。改变不了怎么办？没关系，我们每个人都不会永远年轻，但总有人正年轻。我们没有经历过从一出生就可以用平板电脑玩游戏，看电影，学习的年代。现在的小朋友，3 岁的英语水平比我们当年小学 3 年级的水平都好。当年刚刚发明的车辆代替马作为代步工具的时候，不也一样有很多人反对吗？任何新事物的出现都会冲击旧事物。困难总会有的，发展趋势也是确定的。

Q9您如何看待人在技术发展中的价值？

杨诗宇技术的价值就在于，它是一个可以让人们看到 AI 技术改造制造业的强大潜力。

人工智能应用一般分为三个阶段。

第一个阶段是利用人工智能技术做一些软件虚拟世界上的应用。这一阶段我们的应用已经耳熟能详了。比如美图秀秀可以自动美颜，支付宝可以人脸支付，今日头条可以推荐我们感兴趣的新闻等等；

第二阶段是人工智能不止局限于软件，还要连接更多的硬件，让多种多样的硬件积攒数据来驱动更多应用软件的发展。其实，我们正在经历这样一个阶段，而这技术就是。即每一个硬件实体就是一个终端。什么是终端？比如我们现在可能每个人拥有手机、电脑，这是我们耳熟能详的电子终端。，其实终端不止这些。我们另一个比较的终端是电子手表。它可以监测我们的心跳，判断运动的强度，睡眠的深度等健康状况等等。这些不同的终端会带来不同的数据，而这些数据经过 AI 的模型就会帮助人类在不同的领域有所发展。理想的，就是任何你能看到的实体都是云端网络相连，比如我们任意的家具，或者更大一点说，一栋楼房，一个城市，作为整体也可以是一个终端。这样的实体的落脚点还是收集更多的数据，用作构建更多的 AI 模型所用，其输出还是为了得到某些结论帮助人类做决策，或者某些软件应用；

第三阶段其实才是我们的终极阶段硬件可以自己「动手动脚」，也就是我们所谓的人工。什么叫做自己「动手动脚」呢？和第二阶段有什么区别呢？其主要的区别就在于这些，不仅仅只收集数据或利用 AI 模型做分析，而是在做出分析后，在人类不干预的情况下自己能够决策。就是一种，通过自己「动手动脚」就能考虑到安全性的问题，从而增加了很多的不确定性和难以操控性。所以，这一点上，技术无疑要构造一个更加复杂的系统来帮助人类实现目的。

AI 应用的三个阶段并不是严格意义上的一个接着一个实现的，而是互有交集。像一个跳级生，或者是一个先行者、冒险家。在我们还没有大规模应用的情况下，先出一步。，其实 AI 软件的应用与技术也是在整个的生态中，要实现完全的需要更长的时间。，这项技术的新出现提前给人类看到了 AI 改造传统制造业的巨大潜力。是改造人们出行方式的巨大技术应用，在之后，我们也许会看到更多 AI 第三阶段应用的诞生，比如家政服务机器人。但这一切的先行者就是我们现在人人都在谈的。

Q10通过机器模仿的方式能够实现真正的吗？人机共驾是否有可能成为实现无人车量产的关键？

杨诗宇我认为机器模仿的方式是实现的众多方式的一种。这是最直接的思路。我想要超越你，我就要先模仿你。想使自己驾驶得更安全，更可靠，就必须先向人类学会如何跑起来。模仿那些优秀的人类是如何顺滑的开启汽车。，是否是只有这样的方式才能实现？我觉得不一定。可以肯定的是，因为这是最直接的思路，探索的过程中，这样的方式是必经之路。

人机共驾的场景会涉及到一些非技术的话题，比如道德伦理问题，比如出了交通事故是谁的责任。如果我们的学者既能在技术上可以达到安全行驶的要求，又能解决在非技术问题，比如政策，交规等一系列配套完善的环境给予发展的支持，我相信达到量产不是问题。至于是不是会存在人机共驾的场景，或者这样的场景持续多久并不重要。我也判断，这样的场景很有可能发生。任何一项技术的改革，都会有一段时期的过渡期。如何处理好这样的过渡期从而快速顺利进入到新的阶段，确实很关键。

Q11李飞飞教授牵头建立的 ImageNet 数据集让人工智能实现了技术性的飞跃，您认为「以人为本」的 AI 对数据的要求是否发生了变化？

杨诗宇ImageNet 在 AI 界确实是一件历史性的事件。从学术上来讲，数据本身并没有实现技术性的飞跃，验证了深度学习这样的网络结构 AI 算法是需要大量的数据驱动作为基矗即它验证了其他学者在稍早的年代提出算法的正确性。这件事背后的意义在于，李飞飞教授以及她的团队可以静下心来多年做这样「费力不讨好」的事情，为其他学者做嫁衣。还好，我们现在的时代是公平的，我们由衷地感激有像李飞飞教授这样的一群在学术上默默奉献的人。

回到问题中来，ImageNet 是在计算机视觉领域中的数据，或者通俗来讲是图像数据。它是一个切入口，是让众多学者明白 AI 算法有着巨大的潜能改变我们的世界。不同的领域数据样式是不同的，必定是会有不同的要求。比如，我们的，需要大量的文本数据，需要音频数据等等。如李飞飞教授所说，「以人为本」的人工智能是一项交叉型学科，不止包括计算机领域，还有诸如认知学、脑科学、神经学，甚至还包括多种人文社科领域。所以，不仅仅需要大量的数据，还需要不同领域的多样性数据。这是一项更大的挑战。

Q12如何在数据中体现「以人为本」的概念？

杨诗宇数据想要体现「以人为本」那就需要从人们的需求角度出发。最根本的需求就是我们的衣食住行。只要和衣食住行相关联的数据，我们都可以想办法通过各种各样的方法进行采集。比如利用中的每一个单个智能终端，不仅仅只是手机与电脑。每一个终端可以采集不同类型的数据，传到云端进行不同的分析，建立不同的 AI 模型。我们可以想象这样一个场景。家里的任何家居可能都是一个智能体，并且他们之间都是相关联的，或者是和云端相连。比如马桶可以监测你的排泄物的成分，然后这些数据上传都云端，利用监控健康的 AI 模型进行分析。若有一定的健康问题，会得出结论，比如建议进行食补补充所缺失的元素，调节身体的平衡。然后这样的数据进行回传到家里的电冰箱，电冰箱检测家中是否有这样的食物，若没有，进行所需食物自动下单，定制一套 DIY 生鲜套餐。从而不知不觉解决你的健康问题，然后进行下一循环。这一套闭环中，我们可以看到说涉及的数据有很多种。这样的数据都在围绕「健康」这一主题。所以这就是一个体现「以人为本」比较好的一个例子。

Q13Udacity 的人工智能课程会为学生灌输怎样的 AI 价值观和理念？

杨诗宇Udacity 自创立之初就一直秉承「以人为本，让 AI 创造更多社会正面价值」的理念。我们的创始人，人称「无人车之父」的 Sebastian Thrun，选择无人车研究的一个重要原因，就是希望通过将全球每年因交通事故伤亡的人数降至最低；，Udacity 创立的初衷，也是为了将前沿的 AI 教育普惠全球更多人，而不再仅是大科技公司或顶尖学府的垄断，并通过培养一代的 AI 人才去改变世界。，我们非常认同李飞飞教授所提到的 AI「以人为本」的价值观。

Udacity 致力于人工智能人才培养，有 AI 各领域的课程，覆盖从 0 基础到进阶各个阶段的学员。帮助学员在、计算机视觉、、深度学习领域成为专业技术人才。课程会设置一条完整的学习路径。意在使不同基础的学员可以从这条路径中选择自己起点与终点。为了能够匹配市场的需求，我们设置了结合工业需求的实战项目，并由我们聘请的行业人士人逐行代码的审阅，并给出反馈，帮助学员能够更立体地学到人工智能知识。

由极客公园记者于本一整理