科技生活在线讯 谷歌人工智能系统阿法狗(AlphaGo)在围棋人机大战中，最终以41战胜了人类顶尖高手之一李世石，也引发了对人工智能危险性的探讨。分析人员认为，人工智能研发对人类确实存在不可预知的威胁，人类须制定应对预案和伦理规则进行防范。
阿法狗威胁不大
在本次围棋人机大战中，流传着这样一个说法，阿法狗赢了人类并不可怕，最可怕的是阿法狗故意输给人类，表明其已具备自主意识并懂得为获取最大利益使用心机对付人类。前三场横扫李世石确立胜局后，阿法狗在第四场下出了不可思议的问题手，于是不少网友惊呼阿法狗太聪明了，人类应该警惕。
国家“863”类人智能项目首席科学家、科大讯飞轮值总裁胡郁博士表示，“人工智能程序AlphaGo还属于人工智能研究中初级层面的。”“可以更多地归结为运算智能的胜利。”人工智能的能力主要包括三大块运算能力、感知能力和认知能力，而AlphaGo主要依靠的就是其强大的运算能力，在图像理解、语言理解和知识理解等感知能力和认知能力上，人工智能还不能与人类相比。
不过，佳融分析人员则认为，网友的调侃并非无稽之谈。人工智能对人类产生威胁，应该始自具备自主意识。自主意识则发端于欲望的产生，有了欲望就有主动进化发展的内在动力，而情感则是欲望的外化表现。让具备情感与人类进行无障碍沟通，是AI研究的热门课题。痴迷于取得成果的科学家们，往往有意或无意淡化其暗藏的危险性，总以更好服务人类作为推进理由。而掌控了话语权的各种利益体出于贪婪共性，很可能也会刻意回避这一点。
Pepper更危险
SBRH软银机器人控股公司的第一批家用机器人Pepper日前开售，1分钟内被抢购一空。和大家的普遍认知不同的是，Pepper并非家用的劳动机器人，而是一款情感机器人，SBRH将它设计为用来陪伴人类，它可以识别你的情绪，懂得怎么安慰你，可以在和你的生活中学习了解你的喜好和习惯。如果你笑容灿烂，Pepper知道你心情愉悦，如果你眉头紧锁，它能感知你正在为某事而心烦。Pepper可以根据你的外在表情和活动识别你的心理状态，并且对你进行引导。
有学者认为，比起阿法狗，Pepper的发展方向对人类更具威胁性。人工智能是对人的意识、思维的信息过程的模拟，而人类思维很大程度上受控于情感和欲望。如果人工智能不具备情感和欲望，便很难真正模拟人类的思维过程，因而缺乏主动创造的动力和能力。，人类希望将所有的事情包括创造性劳动都交由人工智能代工。，科学家们的天性决定了，让人工智能具备情感只是时间问题。
佳融分析人员指出，具备情感，是人工智能产生自主意识的标志。情感是欲望的外在镜像，欲望则是进化动力。而当人类对人工智能的使用需求与人工智能谋求自身的发展利益产生冲突的时候，具备自主意识的人工智能不可避免将产生敌意，进而可能激化为你死我活的冲突。
难以应对
知名科幻作家、《三体》作者刘慈欣称，“天网”般的强人工智能如真能出现，人类依然可以应对。人工智能不可能强大到没有弱点。人类也不可能预测不到某种级别的强人工智能即将出现，所以必然会在其出现之前采取一系列措施，譬如不让它与外部世界有硬件上的连接或是断绝所有能量供应，让其没办法生存等。再退一万步，即便强人工智能自我生存下来，避免被人类消灭，人类也可能找到与之共存的方法，并不是一定会被其奴役，比如人机结合就是一个共存的途径。
很多网友持有类似观点，称拔插头最有效。不过，也有学者并不认同这样的看法，认为人工智能不会是一台单机，整个互联网都有它的存在。例如这次围棋人机大战，“在比赛中，坐在李世石对面的人在韩国连接英国的服务器，然后从英国服务器给美国的计算机下指令，再把计算结果传回韩国。你把韩国的机器电源拔了，根本不影响比赛。”有学者建议，可以采用《黑客帝国》里的方法，就是给地球加一个罩，从而切断风能、太阳能这些可再生能源，等着地球自身能源耗尽，这等于是给地球拔电源。
佳融分析人员表示，说通俗点，阿法狗项目提升的是人工智能的智商水平，而Pepper的研发则在提升人工智能的情商水平。一旦人工智能具备自主意识，将兼具阿法狗们以及Pepper们的认知与能力。如果与人类为敌，人类或被其玩弄于股掌之间而不自知。事实上，真到了人工智能与人类开战的那一天，掌握能源开关的应该是已具备自主意识的人工智能，被“拔电源”的更可能是人类，因为我们已然过于依赖网络和计算机，还能指望通过人工智能控制的系统下达攻击其自身的操作指令吗?当人类对于人工智能而言，已经丧失利用价值而只是负担的情况下，淘汰人类或成大概率的选择。
不容乐观
集智俱乐部创始人张江表示，虽然从目前发展趋势看，人类大部分脑力劳动将来会被人工智能所取代，但创造性劳动能否也被替代，至少目前还看不到。，事实上，当下人类所有的社会活动，已经离不开计算机和网络，那是人类根本无力与人工智能争夺的地盘。
也有学者乐观认为，人工智能如果发展到具备了主观意识的地步，那么它可能不会在意人类的生活，憧憬的是整个宇宙。因为火星和地球对人工智能来说没有区别，而且火星地盘大又没人类干扰，不用担心人工智能威胁人类。毕竟还有很长的时间，在这段时间，人类本身也会发生变化。“现在的一个趋势是人和机器的结合，比如脑机接口，人通过大脑可以直接控制机器，而不是一方完全替代另一方。”还有学者干脆提出了“投降论”，中山大学人机互联实验室主任翟振明表示，就算真的有“征服”发生，那也是新人类征服了旧人类，而不是人类的末日。
佳融分析人员指出，如果人工智能具备自主意识，事实上也就具备了生命体的核心特征。不再是人工智能，而是人工生命，只是不属于有机生物，而是无机状态下具有高度智慧的硅基生命。虽然是人造，但作为碳基生命的人类，实难接受被其缔造者取代的命运安排。更遗憾的是，到目前为止，人工智能学习效仿的人类并不是好榜样。为利益纷争不择手段，或许是具备自主意识的人工智能从人类发展史的大数据中归纳出的核心认知。最可怕的隐患是，所有的核设备都通过网络系统控制。而令人类致命的核辐射，对人工智能而言则是能源。
科技生活在线首席评论员江炜点评机器人如果没有情感，只能依照人类编制的指令行事。即使出现偏差，也可通过修正指令来解决。如果人工智能具备了自主意识，并且以人为师，结果不容乐观。在人类做好应对预案和伦理规则前，科学家不宜盲动。