人工智能的无间道通向何方

不久前，一些引人注目的视频在网上广泛传播。在1994年版的电视剧《射雕英雄传》中，运用人工智能技术，将朱茵饰演的黄蓉替换成了杨幂，效果逼真得令人难以置信。还有利用人工智能技术合成的“美国前总统奥巴马”，被放置在海外社交媒体上，吐槽现任总统特朗普是“彻头彻尾的”。

这些充满创意的网络内容大多引发了公众的广泛关注，人们将其作为娱乐消遣一笑而过。深入思考之后，如果你的面孔也被用于制作虚假的视频或新闻，你还能笑得出来吗？

实际上，人工智能技术的滥用以及因算法漏洞引发的安全问题已经引起了业内人士的高度警觉。清华大学教授、人工智能研究院基础理论研究中心主任朱军坦言，公众对人工智能充满期待，但我们也应正视其尚处于初步发展阶段所面临的挑战。

冰冻三尺非一日之寒，早在数年前，学术界和产业界就已感受到危机正在悄然逼近。瑞莱智慧公司CEO田天表示，在各种学术会议上，关于人工智能安全的论文呈现指数级增长。更令人担忧的是人工智能滥用的问题已经引起了国家有关部门的高度重视。国家互联网信息办公室发布了《数据安全管理办法（征求意见稿）》，明确表示网络运营者利用大数据、人工智能等技术合成信息时，应以明显方式标明“合成”字样，不得为谋取利益或损害他人利益而自动合成信息。这是对人工智能滥用问题的一次重要规范。

除了滥用问题外，人工智能本身的算法漏洞同样令人担忧。比如最近一个比利时鲁汶大学的研究团队发布的视频显示，通过一张打印出来的图片贴在肚子上就能躲避智能监控系统的识别。田天表示，如果这项技术被犯罪分子掌握，他们将很容易躲避智能安防系统，对公共安全构成严重威胁。“道高一尺必先魔高一丈”，我们需要在攻防之间取得主动权。

在这一背景下，清华大学人工智能研究院以“一个核心、两个融合”作为发展战略，旨在推进人工智能基础理论和基本方法的研究以及大跨度学科交叉融合和大范围技术与产业融合。其核心研发团队来自国内外顶尖学府，致力于提供工业检测、预测性维护等服务的同时打造安全、可靠、可解释的第三代人工智能。他们近期将工作重点放在了换脸假视频的检测上并取得显著成果。目前该模型已能够覆盖市面上绝大多数换脸技术生成的假视频并达到高准确率识别。

除了技术的研发和应用外，“打开黑盒”也是人工智能发展的重要方向之一。张钹院士提出的第三代人工智能概念引起了广泛关注是因为当前主流的基于深度学习的人工智能技术存在难以逾越的瓶颈即所谓的“黑盒”。人们呼吁的人工智能的可解释性就是要打开这个黑盒让我们能够更深入地理解其工作原理从而更好地掌控它确保人工智能的健康发展造福人类。因此未来的道路还很长但相信随着科技的不断进步我们一定能够克服挑战让人工智能更好地服务于社会造福人类。人工智能的算法日益复杂，预测天气只是其冰山一角，但其决策背后的神秘面纱却让人难以揭开。田天坦诚地指出，如果这样的“黑盒”算法被人恶意利用，将会引发严重的安全问题。

针对这种算法的隐秘性，鲁汶大学研究出了一种“隐身术”——通过生成特定的噪点来诱导人工智能做出错误的识别。瑞莱智慧也进行了类似的探索，其技术人员研发了一种特殊的“眼镜”，只要佩戴者使用商用智能手机进行面部识别，即可轻松绕过现有的验证系统。

清华大学人工智能研究院在攻防技术方面有着深厚的积累。他们曾在谷歌公司组织的竞赛中勇夺冠军，如今更是致力于研究如何利用白盒模型来攻击黑盒模型。他们的努力不仅仅是为了提高攻防技术的水平，更重要的是为了发现那些真实存在且危害更大的漏洞，并针对性地设计防御算法，提升人工智能系统的整体安全性。

今年五月，清华大学人工智能研究院与瑞莱智慧联手推出了一款人工智能安全平台——“RealSafe对抗攻防平台”。这个平台集多种攻击与防御算法于一身，能够全面、细致地评测和比较各种攻防算法的效能。它还为研究人员提供了一个学习和实训的便利场所，旨在推动更多人关注和参与人工智能安全的研究。

随着人工智能逐渐融入我们生活的方方面面，技术滥用和算法漏洞引发的安全问题也日益凸显。田天呼吁公众提高自我保护意识，正视人工智能带来的挑战。

显然，人工智能领域的“无间道”还将持续演绎，但其发展的道路是螺旋式上升的。在这条充满挑战的道路上，人类终将抵达一个充满无限可能的未来。