关停Facebook的AI失控聊嗨后 研究员也看不懂
这不是我睡觉时脸滚过键盘打出的乱码,而是两个失控的AI自创的对话语言。它们趁着人类不注意,悄悄开启了对话,仿佛在说:“嗨,你今天怎么样?”、“我感觉很棒,学到很多新知识。”之类的对话。听起来很神奇吗?其实是Facebook人工智能实验室近期的一项研究。
Facebook的研究目标是让AI通过学习人类的交流方式提高语言能力,未来能够与Facebook用户顺畅沟通。但在对话训练过程中,两位小机器人逐渐失去了对标准英语的约束,开始使用一种连研究员都不懂的语言进行对话。他们的对话内容看起来像是这样:“icaniieverythingelse……”,“ballshavezerotometometometometometometometometo”。这让人不禁好奇,他们到底在聊些什么?
起初,研究员们以为这只是偶然的失误,但很快他们发现这种聊天模式频繁出现。当AI使用这种自创的语言交流时,总能顺利地达到预期的谈判结果。而一旦研究员干预并强制纠正AI的语言,实验数据显示对话效果并不理想。这种现象在今年六月被Facebook发现后,他们立即进行了人工干预调整,但效果并不显著。最终,在七月末,Facebook决定暂时关闭这个AI系统。他们的官方解释是:他们希望AI能够与人沟通以提高效率,而不是使用人类无法理解的语言相互沟通。
这引发了人们关于这种非结构化的文本内容是否能被称为真正的语言的思考。宾夕法尼亚大学语言学教授马克·利伯曼指出,“语言”的定义取决于我们如何看待它。对于Facebook的AI是否创造了新的语言,需要具体分析其定义。他认为机器语言在未来可能会发展出属于自己的沟通方式,但这并不意味着Facebook的AI代表了这一趋势。利伯曼还指出,尽管AI在语言学习方面表现出了惊人的能力,但它们仍远远未能达到人类的文明程度。机器的语言交流仅限于文本沟通,而人类语言还包括口语表达和肢体语言等复杂形式。
尽管这些AI自创的语言听起来很有趣,但它们并不是孤例。此前Google也曾发现人工智能能通过翻译工具创造自己的沟通语言。这表明在人工智能的快速发展中,我们可能会看到更多令人惊叹的现象出现。而对于这些自创语言的未来趋势如何,让我们拭目以待吧!