安全问题将是AI开发的最大挑战，今年将迎爆发期

在智慧城市、各类场景中都可见AI技术的广泛应用，后端控制系统被攻击引发的连锁反应，可能导致AI失控的严重后果。针对这一问题，阿里安全专家近日表示，安全AI将成为未来网络安全问题的新解法，并在2019年迎来其爆发期。

AI的发展势头强劲，但其应用在安全领域时，并不能简单地生搬硬套。阿里安全图灵实验室的负责人奥创指出，需要根据实际场景进行AI技术的升级。在大量AI技术落地之前，我们必须对安全AI给予足够的重视，以从源头上防范更多风险。

安全AI，是安全场景中进化出的具备更强、更多元化能力的AI。与传统的通用AI不同，安全AI更注重在业务安全领域的垂直纵深技术积淀。阿里安全最近研发的新一代AI验证码就是这一理念的实践。该验证码基于问答技术、知识图谱和对抗样本等技术，通过挖掘生活常识类信息作为问答题库，对原始图像加入有针对性的干扰，使人眼识别不受影响，同时显著降低黑产AI打码的成功率。

阿里安全图灵实验室推出的安全AI理念下的“AI鉴黄师”可识别图片、弹幕、语音等多维度信息。奥创表示，这背后的技术支撑包括知识图谱、多源网络、对抗样本等，它们共同构建出更强、更安全的AI技术能力，有效防范攻击，降低风险。

将AI应用于互联网平台的违规视频判定是一个生动的例子。除了计算机视觉技术，还加入了语言、语音等多源网络设计，例如视频画面、视频中的语音、弹幕和交互信息等多个维度。这表明，安全AI不仅涉及图像识别，还涵盖语音识别、自然语言处理等多个领域。

奥创认为，2019年将是安全AI的爆发之年。针对安全场景的AI设计、极限数据情况下的模型训练、不同业态与场景下的模型迁移、决策场景下的模型可解释性、强对抗场景下的模型安全性等四个方向将是非常值得的领域。

值得关注的是，欧盟最近出台的《人工智能道德准则》明确提出，AI的发展方向应该是“可信赖AI”，包含安全、隐私、透明等多个方面。这表明，AI应用已经成为一个社会问题，如何解决已经成为各界共同关注的话题。奥创的言论和这一准则相呼应，显示出安全AI的重要性和紧迫性。