公开(公告)号：CN114332446A

公开(公告)日：2022-04-12

申请号：CN202111212057.4

申请日：2021-10-18

Applicant: 北京计算机技术及应用研究所

Inventor： 方永强 ,  郭敏 ,  王斌 ,  张顺 ,  陈志浩 ,  曾颖明 ,  许文睿 ,  马晓军 ,  桓琦

IPC: G06V10/24 ,  G06V10/774 ,  G06V10/764 ,  G06V10/82 ,  G06K9/62 ,  G06N3/04 ,  G06N3/08

Abstract: 本发明涉及一种在物理世界下具有旋转鲁棒性的图像对抗样本生成方法，涉及人工智能安全技术领域。主要步骤包括1.初始化算法参数与图像预处理得到当前对抗样本；2.利用当前对抗样本旋转得到旋转后的对抗样本；3.判断是否满足迭代终止条件，是则输出最终对抗样本并执行步骤7，否则执行步骤4；4.计算旋转不变联合梯度矩阵；5.对旋转不变联合梯度矩阵进行均值滤波；6.当前对抗样本更新，并返回步骤23；7.在真实物理世界下利用最终对抗样本进行测试，观察不同旋转角度下的对抗攻击效果。本发明生成的对抗样本在物理世界下具有旋转鲁棒性，解决了对抗样本在旋转过后攻击存在失效的情况，进一步提高了攻击成功率。

公开(公告)号：CN114332446B

公开(公告)日：2022-07-12

申请号：CN202111212057.4

申请日：2021-10-18

Applicant: 北京计算机技术及应用研究所

Inventor： 方永强 ,  郭敏 ,  王斌 ,  张顺 ,  陈志浩 ,  曾颖明 ,  许文睿 ,  马晓军 ,  桓琦

IPC: G06V10/24 ,  G06V10/774 ,  G06V10/764 ,  G06V10/82 ,  G06K9/62 ,  G06N3/04 ,  G06N3/08

Abstract: 本发明涉及一种在物理世界下具有旋转鲁棒性的图像对抗样本生成方法，涉及人工智能安全技术领域。主要步骤包括1.初始化算法参数与图像预处理得到当前对抗样本；2.利用当前对抗样本旋转得到旋转后的对抗样本；3.判断是否满足迭代终止条件，是则输出最终对抗样本并执行步骤7，否则执行步骤4；4.计算旋转不变联合梯度矩阵；5.对旋转不变联合梯度矩阵进行均值滤波；6.当前对抗样本更新，并返回步骤23；7.在真实物理世界下利用最终对抗样本进行测试，观察不同旋转角度下的对抗攻击效果。本发明生成的对抗样本在物理世界下具有旋转鲁棒性，解决了对抗样本在旋转过后攻击存在失效的情况，进一步提高了攻击成功率。