返回主页 返回专栏页

可验证鲁棒的深度学习理论与方法：Certified Robustness against Semantic Transformations via Generalized Randomized Smoothing

由于经验式的对抗防御无法从理论上保证算法的鲁棒性，可验证鲁棒的深度学习力求发展具有理论保证的对抗防御算法，即在一定的扰动范围内模型的预测结果可以从理论上保证是不变的。本项目研究将随机平滑方法扩展至更加通用的场景下，可以提供模型在输入数据多种变换下的鲁棒性，包括物理世界中复杂的、难以形式化表示的变换（如运动模糊、雨雪天气等）。我们提出了广义随机平滑的方法，提升深度学习模型在物理实体场景中面对复杂多样的输入变换时的可验证鲁棒性。相关成果发表在会议ICML2022上。 GSmooth示意图

Zhongkai Hao; Chengyang Ying; Yinpeng Dong; Hang Su; Jian Song; Jun Zhu; GSmooth: Certified Robustness against Semantic Transformations via Generalized Randomized Smoothing, International Conference on Machine Learning (ICML), Baltimore, Maryland USA, 2022-7-17至2022-7-23.