计算机软件新技术国家重点实验室 

摘 要：

人工智能在飞速推动技术革命和产业进步的同时，其存在的安全风险往往被人忽视。许多在数据集上表现良好的算法非常容易被对抗性样本所欺骗，导致AI系统判断失准，给人工智能的应用和部署带来了极大的安全隐患。本报告将针对目前深度学习对抗攻防中存在的问题，从对抗鲁棒的基本原理出发，介绍深度学习的对抗攻击和鲁棒防御的最新研究进展，以及本团队研发的ARES对抗安全算法平台，介绍基于该平台发展的算法安全基准，以期推动对人工智能鲁棒性和安全性的研究。

苏航，清华大学计算机系副研究员，长期关注鲁棒、可解释人工智能基础理论及其视觉应用研究，发表顶级期刊和会议论文60余篇，曾荣ICME2018“白金最佳论文”、AVSS2012“最佳论文奖”和MICCAI2012“青年学者奖”等多项学术奖励，曾受邀担任AAAI2022 workshop Co-Chair，NeurIPS Area Chair，并在ICML等顶级国际会议上主持对抗学习领域专题研讨。

地点：计算机科学技术楼230室