联合国发出警告，杀人机器人似乎问世了

好莱坞大片中的杀人机器人--终结者似乎要问世了。

据多家媒体报道，联合国利比亚问题专家小组日前发布了一份报告称，在2020年3月利比亚民族团结政府与哈夫塔尔领导的军队发生战斗期间，土耳其制造的军用无人机曾自主追捕、攻击了人类士兵。

这款名为KARGU-2（卡古2号）的军用无人机在追捕哈夫塔尔的军队时，启动远程攻击系统，发射了导弹，造成不少军人丧命。有关专家认为，这很可能是人类史上已知的首个使用基于人工智能的自动武器进行杀人的案例。

 

　　

 

　　实际上，无人机参加军事行动并非个例。2020年阿塞拜疆和亚美尼亚爆发了45天的战争，在交战过程中，阿塞拜疆军队使用的土耳其产TB-2无人机和以色列Harop自杀式无人飞机就大出风头，斩杀了不少亚美尼亚士兵。这也让人看到了未来战争的方式发生了重大变化，即在未来战争中，人类可以不用面对面的交战，直接使用"致命的自主武器系统来攻击目标。

这等于是说军用无人机事实上已经成为了一款"杀人机器人"了。用俄罗斯无人机领域专家的话说，无人机自主决定猎杀有生命的对象，这在技术上是可行的，未来迟早会出现，问题的关键在于，哪个国家会第一个打开这个"潘多拉魔盒"。

 

　　

 

　　一旦打开这个魔盒，未来如果发生无人机自主攻击人类的事情，那么问题就严重了。这意味着，机器人开始拥有自主意识了，最终骗过所有人，混入人类社会，给人类带来致命伤害。要注意，科技本来是服务于人类的，可到变成了消灭人类的工具，这将是一件多么讽刺的事情啊。

这并非杞人忧天或者危言耸听。当下，AI技术为人类智能拥有自主意识提供了一种可能性。谷歌已经证实，他们推出的一款AI电脑设备，通过了图灵测试。所谓图灵测试就是，如果电脑能在5分钟内回答由人类提出的一系列问题，且其超过30%的回答让人类觉得这是人人类给出的答案，那么电脑就算通过了测试。谷歌这项实验表明，人类已经无法准确判断出到底电话另一端究竟是AI，还是人类。

 

　　

 

　　目前，AI确实能够帮助人类整合数据，包括我们的身份、电话、通信录等信息，都提供给谷歌或者他互联网产业，这些方便了AI为人类服务。

换句话说，几乎所有的个人隐私信息都交给互联网巨头。这个交易是否安全划算，还不好判断。但仅从AI服务于人类的成果看，其作用更加明显，高效、智能。

如果AI在军用无人机这样的装备上得到良好发展，让无人机拥有自主意识的时候，那么人类安全就无法保证了。因为到目前为止，还没有任何国际法能够制约AI的发展。

可以这么说，AI是人类赋予机器人的灵魂，令其开始觉醒，很有可能出现像科幻电影中那样攻击人类的场景。

从这个角度看，"致命自主武器系统"在未来将会给人类带来危险，其实这也是人类带给自己的。我们对未来科技的期待，不应该包括这种"危险"。