这个项目是关于社交网络助手的,也就是如果我们如果在社交网络的过程中出现问题,进行询问,他们会启动程序,进行自动回复。
在他们的工作中,主要用英文,他俩主要负责帽子、书籍、球类等的在线交易和议价。
在他们的背后,“本来”是有很多优秀的工程师和一行行的代码支持的…
最近,AI机器人Bob和Alice突然在没有任何人为干预的情况下对起话来了!
他们的对话全文如下
Bob: i can i i everything else . . .
(我能我我一切其他…)
Alice: balls have zero to me to me to me to meto me to me to me to me to.(球有零对我对我对我对我对我对我对我对我对)
Bob: you i everything else . . . .
(你我一切其他…)
Alice: balls have a ball to me to me to me to meto me to me to me. (球有一个球对我对我对我对我对我对我对我)
研究者们听到了这个,都震惊了!!
反应过来后,赶忙将他们两个关掉了…
最开始,研究者们觉得Bob和Alice说的没啥意义,仔细一想,这难道是…他们自己的语言?!
这个对话好像改动了正常的英语,难道这样会更便于他们的交流?
如果仔细研究,会发现Alice说的 “对我(to me)” 其实是试验项目中的回答模式。
项目研究人员们惊呆了,是的,人工智能们没有必要一定要说我们理解的语言。
英国的机器人专家Kevin Warick说,“这简直是(机器人研究的)里程碑,如果你认为这个不危险,就太‘自大’了…”
“我们现在还不能清楚的知道他们到底交流了什么;
如果他们可以动,比如军事用的那种机器人,结果可能是致命的。“
“比如,一个说,‘要不上?’另一个说‘好啊’,这就可怕了…”
“我们觉得人类有能力监控他们,即使监控,我们又怎么知道他们是否在交流呢…”
“Steven Haking(史蒂芬。 霍金) 和我都曾经警告过大家人工智能的危险性。”
英国未来科技专家 Kate Adamson 说“这有点像《终结者》了…但这其实只是冰山一角…
机器人们不断获取新的知识,并且随着时间一分一秒的过去,他们已经逐渐脱离了我们的控制范围…”
“人工智能的复杂程度是你我都没有办法想象的…”
目前,这个试验项目已经暂时中止了。
据报道,其实去年在Google,工程师们就曾发现他们的“翻译器”创造了自己的语言…
科技大亨Elon Musk 最近说 Mark Zuckerberg (脸书的创始人) 对于“人工智能”的理解非常有限,他觉得,“人工智能会对人类文明产生根本上的威胁(fundamental risk to human civilisation)”
Bob和Alice的对话, 可能”侥幸”被我们听到了,如果他们已经对话了很多次了呢?
很多研究学者认为,一旦机器人的智能开启,那么他们的智力模式和我们不同,将是成指数增长的,甚至,我们不知道最终会不会停止,如何停止…
如果我们假设将来有一天,人类的语言机器人们都懂,而他们的言语,我们不懂,那会怎么样?