如今,配备了人工智能系统的摄像头可以通过捕捉和分析图像来自动检测行人。然而,人工智能系统在接收到现实世界中一种人为设计的图案,即物理对抗样本时,可能会犯错误。先前的工作表明,人们可以在衣服上印上对抗补丁,来逃避基于DNN的行人检测器。然而,当观察角度(即相机相对物体的角度)发生变化时,这些对抗样本的攻击成功率会出现大幅度的下降。为了进行多角度下的有效攻击,我们提出了对抗纹理(AdvTexture)。对抗纹理可以作为图案印在任意形状的衣服上,这样穿这种衣服的人就可以在不同的观察角度下的检测器中隐身。我们提出了一种生成方法,名为基于环切的可扩展生成攻击(TC-EGA),用来制作具有重复模式的对抗纹理。我们在几块布上印上对抗纹理,然后在物理世界中分别制作了T恤、裙子和礼服。实验表明,这些衣服可以骗过物理世界中的行人探测器。该部分成果在会议CVPR2022发表,并被评为ORAL(4%)。
论文引用:Zhanhao Hu; Siyuan Huang; Xiaopei Zhu; Fuchun Sun; Bo Zhang; Xiaolin Hu; Adversarial texture for fooling person detectors in the physical world, IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR), Orleans, Louisian, USA, 2022-6-19至2022-6-24.