Invention Grant
- Patent Title: 基于代理模型的对抗样本生成方法和装置
-
Application No.: CN202110000718.0Application Date: 2021-01-04
-
Publication No.: CN112329929BPublication Date: 2021-04-13
- Inventor: 萧子豪 , 田天
- Applicant: 北京智源人工智能研究院
- Applicant Address: 北京市海淀区中关村东路1号院8号楼三层B201D-1
- Assignee: 北京智源人工智能研究院
- Current Assignee: 北京瑞莱智慧科技有限公司
- Current Assignee Address: 北京市海淀区中关村东路1号院8号楼三层B201D-1
- Agency: 北京箴思知识产权代理有限公司
- Agent 李春晖
- Main IPC: G06N3/04
- IPC: G06N3/04 ; G06N3/08 ; G06K9/62

Abstract:
本发明提供了一种基于代理模型的对抗样本生成方法和装置。该方法包括:提供基于卷积神经网络构建的白盒模型、原始样本和一基于迭代的对抗攻击算法;基于白盒模型、原始样本和基于迭代的对抗攻击算法迭代生成对抗样本,直到达到预设终止条件;在每个迭代轮次中:获取上一轮次迭代生成对抗样本时,所述白盒模型中的各个批归一化层的斜率系数;将各个批归一化层的斜率系数作为对应的批归一化层之前设置的非批归一化层的重要性分数;根据预设规则以及所述白盒模型的各个非批归一化层的重要性分数剪除所述白盒模型的部分层级;更新剪除部分层级后的白盒模型;将达到预设终止条件时生成的对抗样本作为最终的对抗样本以对其他模型进行迁移攻击。
Public/Granted literature
- CN112329929A 基于代理模型的对抗样本生成方法和装置 Public/Granted day:2021-02-05
Information query