坚持以人为本 谷歌致力于打造对人更友好AI

机器人培训 2021-05-31 10:33www.robotxin.com机器人培训
7月11日消息,据金融时报报道,随着强大的人工智能(AI)技术不断渗透到谷歌的所有服务中,谷歌正在努力解决如何确保其给人类带来更多好处而非伤害的问题。这个网络巨头10日宣布推出新的研究计划,旨在寻找以人为AI发展中心的方式,从给予工程师更好的工具来控制技术,到确保普通人不会因为智能机器的决定而陷入不利的地位。

这项计划的研究人员之一费尔南达·维埃加斯(Fernanda Viégas)说“随着人类与AI交互问题从谷歌各个角落不断涌现,这个想法就开始成型。”谷歌越来越意识到AI的潜在负面影响,这反映了科技界更广泛的担忧,即过去公司用来制造新产品的方法可能不足以控制新技术。

举例来说,利用不完整或被扭曲的数据训练AI系统可能会导致机器产生有偏见性的“思考”,而且很难将它们所采用的算法应用于外部检查。即使AI系统能够有效地发挥作用,它们遵循的“世界观”也很有可能促使世界上某些人陷入不利地位,或者他们可能完全排斥人类,而不是鼓励给人们在新的计算机交互形式中发挥积极作用。

维埃加斯与谷歌研究科学家马丁·瓦藤伯格(Martin Wattenberg)在博文中写道,谷歌计划的目标应该是创造“以人为中心的AI系统”,并且“民主化”这项技术,使它更容易理解工程师和其他人类。继去年微软的尝试之后,谷歌呼吁将更人性化的方法作为其AI发展的中心。微软首席执行官萨提亚·纳德拉(Satya Nadella)曾将当前紧迫性与15年前微软彻底改变开发过程相提并论,当时第一波计算机病毒爆发,促使更强大应用软件的需求激增。

谷歌的新研究计划由两位来自Google Brain的高级研究科学家领导。这个机构的名字源自谷歌首个深度学习项目,深度学习是目前AI领域最先进的技术。维埃加斯与瓦藤伯格写道,到目前为止,大多数AI研究都集中在“技术性能”上。他们呼吁寻找新的开发过程,而且这个过程应该从终端用户的想法开始,这被称为“设计思维”,是许多行业中非常流行的产品开发方法。

维埃加斯与瓦藤伯格自问“我们如何确保这项技术对每个人都有好处?”他们的呼吁与人们越来越关注的问题相符,即解释AI系统如何工作异常困难,这可能导致人们对它们产生的结果缺乏信任,进而阻碍了它们的使用。为了尝试克服这个问题,美国国防部的研究部门支持多项研究,包括如何使AI系统的“思维”更易于被人所理解。

在名为“人+A研究”新项目的首个产品中,谷歌宣布推出两个软件工具,据称它们将让开发者“清楚地看到他们用来训练AI系统的数据”。这反映了“需要调试的不仅是代码,数据也同样如此。”在“人+A研究”项目中,有数十位AI领域专家与谷歌多个产品团队展开合作,包括哈佛大学教授布伦丹·米德(Brendan Meade)、麻省理工学院教授哈尔·艾贝尔森(Hal Abelson)等。这项研究最终将帮助改进某些世界上最流行应用的智能元件接口,而且谷歌的计划也可能鼓励其他公司调整自己的软件。

这项新举措与谷歌日益重视AI的策略相吻合。谷歌首席执行官桑达尔·皮查伊(Sundar Pichai)曾多次表示,世界正从“移动优先”向“AI优先”转变,该公司已经围绕这个策略做出许多调整。例如,最近谷歌成立了风险投资部门,专门投资于AI初创公司。与此,亚马逊、苹果、Facebook以及微软在过去几年里也一直积极参与AI的改进。 (小小)

Copyright © 2016-2025 www.robotxin.com 人工智能机器人网 版权所有 Power by