中科院院士张钹 纯粹数据驱动的人工智能不可靠存在危险

在热烈的2022世界机器人大会的主论坛上，中国科学院院士、清华大学人工智能研究院的掌门人张钹院士发表了他的前沿观点。他警示我们，当前纯粹依赖数据生成的人工智能处于一种不可控的状态，其运作机制宛如一个无法解读的谜团，缺乏可解释性。

张钹院士强调，这种状况令人担忧，因为人工智能在未经解释的情况下可能会带来无法预测的风险。他进一步指出，为了确保人工智能的安全、可靠和可信，我们需要将知识和数据相结合，发展第三代人工智能。这种方法虽然简单，但执行起来却极具挑战。

在谈论智能机器人的未来发展时，张钹提出了一个引人深思的问题：机器人是否会变成我们的主人？他指出，随着机器人智能的不断提升，这个问题变得越来越现实。尽管阿西莫夫和霍金等先驱也曾提出过类似的观点，但如今，人类正面临着更为紧迫的挑战。如果机器人的智能超越了人类，那么我们必须对其进行限制和治理。

关于机器人的行为问题，张钹院士表示担忧。他认为，机器人如何遵守道德规范是一个巨大的挑战。尽管我们可以尝试通过新的分析工具来预测和解决这些问题，但什么是道德和仍然存在争议。他强调，为了使机器人具有创造性并能自主解决问题，我们必须给予它们一定的灵活性，但这也会带来一些挑战和潜在的风险。我们需要对智能机器人进行严格的评估和预测。

张钹院士的观点为我们提供了宝贵的启示：人工智能的发展必须与人类紧密结合，只有在兼顾道德和的基础上，我们才能发展出真正安全、可靠、可信的智能机器人。我们有必要深入研究并找到解决这些问题的有效途径。