机器人吵架成网红，很萌很有趣，但大方向上“

最近，两个机器人吵架的视频火了，记录了两个机器人因为争粉丝而生气吵架，机器人憨憨的语调，很萌很有趣，非常有动漫的喜感……

人们点赞人工智能迅速发展之余，不禁莞尔失笑机器人也有了人类的喜怒哀乐，这也太好玩了……

，深入推敲此类事情的背后，其实在大方向上藏着一个“细思极恐”的问题。

为什么“细思极恐”呢？

如今，将机器人叫作“机器人”已不大准确了，因为其中，实际上是一种人工智人了。向人学习，向人“进化”，这是大势所趋。

但其中涉及到的重大问题是，学什么？学“好”还是学“坏”，学“高”还是学“低”，学好习惯还是学坏毛病？

这是发展人工智能的大方向问题，特别需要避免一些重大误区。

是“喂料”。

就是人类给学什么？

最根本的问题是要能够分辨善恶，向真向善向美，特别是向人类学习，不是学人类的劣根性、坏毛并坏脾气，不是向人类学习负面情绪。因而，要建立负面学习清单。

美国一国家实验室教学习人类神经系统，用于研究人类神经系统没问题，但让学习人类感觉而产生无聊、犯困等状态，就令人警惕了。

人类的发展方向是真善美、“高大上”，要克服的就是假恶丑、“低小下”。怎么能向“喂”假恶丑、“低小下”呢？学会了负面情绪负能量有什么好处呢？

，学会生气吵架一点也不好玩，一点也不好笑。恰恰相反，机器人如果学会真生气真吵架，加上自主学习能力，接下来会不会发展为打架甚至后果更严重的事情呢？这才是问题的关键。

人类社会的负能量及其传播本来就是一个顽症，再增加个机器人的负能量“教育”和传播，这种发展模式是不可想象的。

仅此一点，“机器生气人吵架”这种噱头应该反思，可以休矣！

是算法。

算法越精准越好，越算越懂你，越算越聪明。

有一个算法导向问题，就是说算法要合乎基本的道德法则。

负能量的东西需要剔除、隔离和防护，就像对待病毒一样，既要消除病毒，也要防止病毒式传播。

要防止通过算法自主性、系统性的学习，掌握负能量，效法人类的负面情绪坏毛病，而且要防止凭借算法的加速度越学越坏，出现心理问题乃至道德问题，膨化为发展问题和社会问题。

美国路易斯维尔大学哲学教授安德烈亚斯埃尔皮多鲁撰文指出，“AI的心理问题应当被严肃对待。未来也需要对付机器做的坏事自虐或者伤害他人。毕竟我们也不想看到智能冰箱因为无聊而自断电源让食物腐烂，智能汽车因为无聊想着跳下海游泳”。

他的看法并非什么故作夸张之语，关于的影视所反映的各种风险已经为人们敲响警钟，人类需要“杞人忧天”式的预警意识，需要强化防患于未然。如今要预防机器做坏事，要预防机器人学坏变坏。

是终极定位。

是来干什么的？

究其根本，有几个重大目标和意义。

一是解放人的体力劳动，人是血肉之身，而机器人是钢铁之躯。能帮人干体力活，充分解决体力活，从而将人解放出来，去追求更自由更有创造力的工作。

二是促进人的智力升级，依靠机器人的超强外脑，帮助人干脑力活，促进提升人的智力水平，使人类更快更高更有效能，让人类变得更聪明更智慧；

三是最根本的是提升人类文明，即帮助人类建设物质最大化丰富、精神最优化发展的高级社会形态。在顶层设计上，机器人的发展定位要非常高，即高度智能化、高度正能量。

总的来看，机器人应该是“超人”，在智力上比人更高，在道德上也别人更高。

但另一方面，人类是机器人的领导者、掌舵者，与机器人作为超人一点也不矛盾，关键是把控力。

就像刘邦所说“夫运筹帷幄之中，决胜千里之外，吾不如子房；镇国家，抚百姓，给饷馈，不绝粮道，吾不如萧何；连百万之众，战必胜，攻必取，吾不如韩信。三者皆人杰，吾能用之，此吾所以取天下者也。”

生命本悟，快乐本心。

天人本一，智慧本光。

光未央原创作品

未经许可请勿转载使用