机器学习中的对抗与数据安全隐私

报告地点会议 会议码201 695 392

报告人李进教授 国家自然科学基金优秀青年科学基金获得者

报告人简介

李进，教授，博士生导师，广州大学黄埔研究院/研究生院常务副院长，人工智能与研究院执行院长，南开大学和北京交通大学兼职教授、博导。博士毕业于中山大学，曾在美国弗吉尼亚理工学院和韩国科学技术院等进行访问研究工作，主要研究领域为数据安全、人工智能安全和。主持承担了包括国家重点研发专项、国家自然科学基金联合基金重点和广东省自然科学基金重点应用研发专项等。担任广东省安全与隐私保护工程中心主任，广东省教育厅人工智能安全重点实验室主任，广州大学学术委员会委员。多次担任过国家自然科学基金委和科技部重点面上项目会议评审专家。获评广东省劳动模范和广东省南粤优秀教师。担任多个国际学术会议主席职务和中国计算机学会重点国际知名期刊International Journal of Intelligent Systems主编，担任IEEE TDSC等多个顶级期刊副主编。目前已发表或录用的学术论文共100余篇，会议论文集和期刊5部/期，多篇论文获得国际学术会议最佳论文奖。成果获得教育部自然科学二等奖（排名第一），国家自然科学基金优秀青年科学基金获得者。

报告内容简介

随着以为核心的人工智能系统在图像和数字经济等领域的不断深入，本身面临的安全问题成为了业界关注的焦点。尤其是在对抗环境下，任务的执行过程会受到各类攻击和欺骗威胁，其表现形式包括数据隐私泄露、模型泄露、虚假训练数据投毒攻击、操控训练过程，以及逃避分类检测等。由此类欺骗行为引发的安全威胁会导致人工智能应用在某些安全场景下受到较大限制甚至是严重破坏。本报告重点围绕人工智能面临的安全威胁及其防御手段展开介绍。

主办单位

吉林大学计算机科学与技术学院

吉林大学软件学院

吉林大学计算机科学技术研究所

符号计算与知识工程教育部重点实验室

仿真技术教育部重点实验室

网络技术及应用软件教育部工程研究中心

吉林大学国家级计算机实验教学示范中心