人类能让智能机器人永远听话吗 答案是否定的

在人工智能蓬勃发展的时代，我们始终追寻一个问题：人类能否牢牢把握智能机器人的控制权，使其永远为人类服务？在2022年世界互联网大会的人工智能与数字论坛上，这个问题得到了引人深思的回应：我们无法完全掌控。

清华大学人工智能研究院的杰出学者、中国科学院院士张钹为我们深入解析了这一问题。他指出，在机器智能化发展的初期，尽管它们可以无差别地执行命令，但随着智能水平的提升，我们需要赋予它们一定的自由度和自主权，这意味着我们无法再完全控制它们。

基于大数据的深度学习技术在本世纪初开始被广泛应用，它在决策、预测和推荐等领域产生了重大影响。这种技术的缺陷也逐渐显现，包括不透明、不可控和不可靠等问题。当神经网络生成带有种族、性别等偏见的文本和图像时，就会完全超出我们的控制，对公正性和公平性造成破坏。

张钹院士警告说，我们原以为只有在机器人的智能接近或超过人类时，我们才会失去对其的控制，但事实是在机器智能还相对初级的阶段，我们已经无法完全掌控。人工智能的风险已迫在眉睫，需要立即进行治理。

那么，我们能否通过制定严格的准则来限制人工智能的错误行为呢？张钹院士表示，这非常困难。准则难以准确描述，即使可以定义，执行起来也非常困难。他强调，无论是人工智能的有意滥用还是无意误用都需要治理，但两者的治理方式完全不同。前者需要法律约束和社会舆论的监督，后者则需要通过科学评估和全程监管来避免误用。

张钹院士指出，人工智能的研究与开发应以人为本，遵循公正公平的原则。当前，我们正在探索第三代人工智能，努力建立可解释的人工智能理论，以此为基础开发安全、可信、可控、可靠和可扩展的人工智能技术。

张钹院士强调建立国际合作的重要性。全球应共同努力，制定符合全人类利益的标准，推动人工智能健康发展，造福全人类。只有如此，我们才能在享受人工智能带来的便利的有效应对其带来的挑战和风险。