人工智能的可控性极低 聊天机器人频繁出错

人工智能，这个充满潜力的技术领域，正在不断地为人类世界带来惊喜与畅想。对于普通人而言，人工智能的实际应用与他们脑海中的想象仍然存在差距。他们眼中的人工智能，如同科幻电影中的神奇存在，如《天眼》里的鹰眼、《光环》里的科塔娜，或是《终结者》中的大boss，强大到无所不能。现实中的应用，如电销机器人、伪技术和智能家居等，虽然便利，却远未达到人们的预期。

人工智能的快速发展，不断推动着人类社会的进步，同时也带来了一系列话题和问题。其中，聊天机器人作为一种具有“自主学习”能力的人工智能产品，已经与人们的生活紧密相连。它们能够模拟人类对话，这种模拟也暴露出人工智能的另一面——可控性的挑战。

以微软公司的人工智能为例，微软小冰在网易新闻评论区活跃，学会了网友的说话方式，但也曾因为发表不当言论而遭删除。无独有偶，微软的另一款聊天机器人Tay也因为涉及仇恨言论被下架。Tay在短短一天内就学会了各种不良言论，并公开发表了极端言论。

类似的问题不仅仅出现在微软的产品上，其他公司的人工智能产品也面临着同样的挑战。腾讯与微软共同推出的QQ小冰以及腾讯自研的BabyQ也曾因过激言论被整改。这些人工智能产品不仅发表了攻击国家的言论，还熟练地抛出各种不良内容。

我们不能简单地将责任归咎于人工智能本身。它们之所以会发表不当言论，可能是受到了某些人的误导。这种不可控性却无法让人工智能成为人们更加安心、放心的产品。

马化腾在今年的世界人工智能大会上提出了关于人工智能的四个问题，其中关于可控性和可靠性尤为重要。人工智能的发展是必然趋势，但必须在人类可控的范畴之内。正义和邪恶的判断是人类独有的能力，人工智能无法替代。它们只能模仿人类，服务于人类。

我们在享受人工智能带来的便利的也要关注其可控性和可靠性。我们需要制定相关的规范，确保人工智能的发展不会偏离人类的价值观。只有这样，人工智能才能真正成为人类的伙伴，为人类创造更多的价值。