公开(公告)号：CN113947579B

公开(公告)日：2022-05-17

申请号：CN202111212059.3

申请日：2021-10-18

Applicant: 北京计算机技术及应用研究所

Inventor： 曾颖明 ,  王斌 ,  方永强 ,  张顺 ,  石波 ,  郭敏 ,  马晓军 ,  桓琦

IPC: G06T7/00 ,  G06V10/764 ,  G06V10/82 ,  G06K9/62 ,  G06N3/04 ,  G06N3/08 ,  G06N3/12

Abstract: 本发明涉及一种针对图像目标探测神经网络的对抗样本检测方法，涉及人工智能安全技术领域。该方法包括步骤：构建对抗样本检测数据集；利用目标探测神经网络模型提取对抗样本检测特征数据集；搭建对抗样本检测神经网络；进行对抗样本检测神经网络训练，得到对抗样本检测模型；进行对抗样本检测模型性能测试。本发明利用目标探测神经网络生成的目标探测框之间存在顺序关系，提升了对抗样本检测准确率，并且通过浅层特征共享机制避免了过多额外计算。

公开(公告)号：CN113948067A

公开(公告)日：2022-01-18

申请号：CN202111170083.5

申请日：2021-10-08

Applicant: 北京计算机技术及应用研究所

Inventor： 王斌 ,  方永强 ,  曾颖明 ,  张箐碚 ,  陈志浩 ,  郭敏 ,  童帅鑫 ,  马晓军 ,  桓琦

IPC: G10L15/06 ,  G10L15/22 ,  G10L19/005 ,  G10L25/18 ,  G10L25/30 ,  H04L9/40

Abstract: 本发明涉及一种具有听觉高保真度特点的语音对抗样本修复方法，涉及人工智能安全技术领域。该方法包括步骤：构建对抗样本修复训练数据集；搭建RAE网络并设置网络参数；构建高保真音频重构损失，即基于信号均方误差的高保真度策略改进；设置训练参数并训练网络；利用训练好的RAE网络进行对抗样本修复，借助语音识别模型判断是否修复成功。与目前传统常用的语音信号修复方法相比，通过本发明算法生成的音频修复样本具有较高的听觉保真度和修复成功率，能够适用于更低信噪比情况下的对抗样本。