机器人打人了 如何避免人工智能“成精”?

人工智能 2019-08-16 08:01www.robotxin.com人工智能专业
   “一开始还不会说话,但最后他们却挺立于人类与毁灭之间……”——《我,机器人》阿西莫夫。
 
  当人工智能和IoT陷入狂热期,“智能”像一种病毒一样飞快的在我们身边的设备中传播:大的、小的、有屏幕的、没屏幕的,只要能插电的,都能被智能化。
 
  而在智能化之后,机器人一词也在被越来越多的提及,毕竟可接受人类指挥、可运行预先编排的程序、可按照人工智能技术制定的纲领行动是机器人最重要的三个定义,前两者在上个世纪就可以实现于种种家电上,真正阻碍机器成为人的,还是人工智能的发展。
 
  现在看来,最后的阻碍也要消失了。

  【你不在的时候,机器人在干什么?】
 
  现在就能发现,越来越多的东西改名叫XX机器人和XX智能伴侣了。比如说看起来很像牙刷的“口腔清洁机器人”、还有外形和加湿器如出一辙的“空气管理机器人”,再有就是以各种类似大白或卡通动物形象出现的儿童陪伴机器人。
 
  这些产品频繁的出现在各种众筹网站的科技板块,他们说自己比那些不叫机器人的死板物件更懂你,可以深度学习和自我修正。
 
  举个例子,有个“空气管理机器人”声称自己可以感知空气中的水分多少,从而自我调节雾气大小,让房间保持恒定湿度。这算不了什么,一些主打儿童市场的伴侣机器人,据说可以识别家庭成员,从而判断主人在不在家。还可以深度优化语音识别,给儿童情感方面的回应,对于老年人,可以检测心率等等体征指标,如果发现异常会自动报警,甚至还能为儿童注射疫苗。
 
  知道我快到家了就自动开始煮饭的电饭煲、根据人头多少调整送风量的空调……中国人自古以来就幻想着虫鸟走兽、花草石木成精的故事,到了今天终于成真了。而且机器人居然还能判断我在不在家,我不在家你想干吗?
 
  【不受控的人工智能比核武器还危险】
 
  当然,所谓“成精”只是笑谈。成精和智能化的最大区别在于,精怪是不可控的,而智能化的机器人是在人类可控范围内来代替人们劳动的。
 

 
  说白了,智能化还是要建立在安全基础之上,不然看看科幻里那些造了反的机器人,可比花花草草成精可怕多了。
 
  那么回到问题的关键,当机器人能做的事越来越多,能力越来越强(最近听说谷歌人形机器人Atlas都会走梅花桩了),当移动大楼的电器都通过同一个智能系统连接,我们如何保证机器人是安全的?ElonMusk说过,不受控的人工智能,比核武器还危险。
 
  11月18号的深圳高交会上,一台名叫“小胖”的机器人突然发飙,砸碎玻璃划伤了路人。一时场内有人高呼“机器人闹事了!”,当然,真相是“小胖”的自主导航出了问题,传感器无法识别玻璃是障碍物所以撞碎了玻璃。
 
  机器人意识觉醒,揭竿而起造反的情节还离我们有点远,可是系统Bug的不可控性,是否会对人类的安全造成威胁或者对人类的生活造成麻烦?
 
  Google曾经为人工提出5项安全要求,其中涉及到了很多现实问题:诸如如何让机器人在追求效率时避免连带损伤,或如何避免机器人在深度学习时对人类造成损害。现实案例就是,机器人在追求最短路径时会不会撞到物体,或者机器人在学习做家务时会不会在“试验”过程中把房间搞得一团糟。
 
  传感器和避障算法,真的能应付现实生活中无穷的变量吗?
 
  除去自身局限和系统故障,有意的黑客攻击和病毒传播才是最可怕的。曾经一个由东南大学与澳门大学师生组成的PhenixCoder团队破解攻击了一个智能插座,甚至还用这个插座发了一套推特。这桩新闻听起来好笑,可是换个角度想想,如果这次攻击是来自一个不怀好意的黑客团队呢?插座的最大公用是提供电源,而在很多时候,电力就意味着生命。
 
  【机器人安全保障还存在机会吗?】

  当然我们还是要勇敢拥抱变化的。
 
  把整个银行操作系统架构在局域网上、把整个国家的国民身份信息放进一个数据库里,这些事情在过去听起来也是充满危险、不可控的,可我们的社会还是按照这样的轨迹平稳运行着。对于人工智能、IoT、机器人的未来我们也该乐观一点,与其担忧安全性,不如想象在机器人安全保障这一领域是否还存有更多的市场机会。
 
  首先在技术方面,更精密的算法和感应系统一定是大趋势,也就是说未来机器人技术,即使在民用、家用的细分品类中还有不可估量的发展空间。
 
  或许,在未来可以推出家用机器人保险?毕竟世界上不存在没有漏洞的程序,也不存在不会Bug的系统。当机器人可能造成的危害变得极低时,一份随产品售卖的保险会让用户多一份安心。
 
  至于机器人在学习时可能造成的损失,或许未来会出现宠物训练师一样的“人工智能训练师”,根据用户不同的使用习惯、场景对机器人进行初始训练以便其能够更快、更好的进行后续的服务和学习。除了训练,他们还可以为机器人提供后续维修、回收报废等等一系列服务。
 
  总之,在人工智能、机器人这一档子事当中,人类不能将自己摘的太干净,控制权是一种甜蜜的负担,只会被夺取,不能从中解脱。
 
  当然,就目前的“口腔清洁机器人”、“空气管理机器人”以及明年可能出现的“食物储存机器人”等等机器人的基本素质来看,现在担心他们“成精”纯属杞人忧天。
 
  不过也许这些只是邪恶机器人军团放出来的烟雾弹,以劣质的产品迷惑人类让我们轻敌,真正的要你命3000正在幕后整装待发准备占领地球呢。
<

Copyright © 2016-2025 www.robotxin.com 人工智能机器人网 版权所有 Power by