如何防止人工智能失控？专家：先教育从业者

实习记者 代小佩

“为什么把人工智能列为一级学科在国务院学位委员会通不过呢？老觉得人工智能一直没讲清楚，要么被说成计算机，要么被说成控制科学。”日前，数字经济院长论坛(龙江)在哈尔滨举办，中国新一代人工智能发展战略研究院执行院长、世界工程组织联合会(WFEO)当选主席龚克在会上直言。

“要把人工智能作为教育的内容融入到通识、职业和终生教育中，必须说清楚它的核心内容和公共基础，也就是其原理、方法的一般性和特殊性，以及背后的逻辑链。”龚克表示。

“智能是自主的感知、认知和决策能力，通过学习获得的。一个智商大脑发育很好的孩子，若从不学习就谈不上智能。人工则是指由人工设计的装置，通过人工设计的算法等完成人规定的任务。两者结合起来叫人工智能。”龚克强调，完成人规定的任务，是今天的人工智能，如果是自主决定的任务，那可能是未来通用的人工智能。目前研究部署的人工智能基本上都是在完成人规定的任务。

龚克说，作为工具的人工智能正在改进教学成效、变革教学范式，使得基于学科的学习转为面向问题的学习。“以前，我们要求学生熟记、理解知识，但再怎么记也赢不了人工智能。”龚克直言，人工智能时代，学生要从“会记”发展到“会问、会查、会辨别”，尤其是辨别。

“反过来讲，人工智能也需要教育的支撑和保障。现在，人工智能的设计、制造、应用、维护、管理等需要大量人才。教育要担起相应责任，完善人工智能人才培养体系。”龚克说。

龚克建议，要做好人工智能的学科建设，形成“人工智能+X”复合专业培养新模式，重视人工智能与数学、计算机科学、物理学等学科的交叉融合。除了学校培养，还要推动学校和企业联合培养人才。，要注重多层次培养，最好从小学初中就开始抓人工智能教育。

专家提到，发展负责任的人工智能要先培育负责任的人。“人工智能的开发者、制造者、应用者、管理者等应该具有价值追求、伦理道德、知识能力，以负责任的态度从事人工智能创新和应用。”龚克说。

“强大的人工智能兴起，将是人类从未有过的最好或最坏的事。我们要竭尽所能，确保它的未来有利于人类和人类的环境。”龚克表示，避免出现不受控的人工智能，需要通过广泛的跨学科、跨行业、跨国界的对话，建立起关于人工智能基本共识，然后将这些共识转化成政策、法规、规定、准则等。

，要制定相应技术标准，把伦理要求有效植入人工智能系统，并建立可靠的验证测试方法。“，要开展广泛的教育，使得包括人工智能系统设计、制造、销售、使用、维护、管理者在内的所有人都能负责任地和人工智能打交道。”龚克强调。