-
公开(公告)号：CN118095406A
公开(公告)日：2024-05-28
申请号：CN202410297400.7
申请日：2024-03-15
Applicant: 北京计算机技术及应用研究所
Abstract: 本发明涉及一种针对智能人脸识别模型的随机对抗训练方法，属于人工智能安全领域。包括：1.搭建人脸识别模型并初始化算法参数、构造人脸图片训练集；2.将人脸图片训练集随机划分为多个互不相交的训练子集；3.利用划分后的训练子集生成对抗训练子集；4.利用对抗训练子集和加权损失函数对人脸识别模型进行反向传播训练；5.判断是否满足所有训练子集全部完成对抗训练，是则执行步骤6，否则返回步骤3；6.判断人脸识别模型迭代次数是否达到终止条件，是则输出最终鲁棒人脸识别模型，否则返回步骤2继续执行。本发明能同时抵御人脸伪装攻击和人脸逃逸攻击，增强人脸识别模型抵御攻击且能保证干净人脸样本的识别准确率，增强模型的鲁棒性和泛化能力。
-
公开(公告)号：CN113948067B
公开(公告)日：2022-05-27
申请号：CN202111170083.5
申请日：2021-10-08
Applicant: 北京计算机技术及应用研究所
Abstract: 本发明涉及一种具有听觉高保真度特点的语音对抗样本修复方法，涉及人工智能安全技术领域。该方法包括步骤：构建对抗样本修复训练数据集；搭建RAE网络并设置网络参数；构建高保真音频重构损失，即基于信号均方误差的高保真度策略改进；设置训练参数并训练网络；利用训练好的RAE网络进行对抗样本修复，借助语音识别模型判断是否修复成功。与目前传统常用的语音信号修复方法相比，通过本发明算法生成的音频修复样本具有较高的听觉保真度和修复成功率，能够适用于更低信噪比情况下的对抗样本。
-
公开(公告)号：CN114332446A
公开(公告)日：2022-04-12
申请号：CN202111212057.4
申请日：2021-10-18
Applicant: 北京计算机技术及应用研究所
IPC: G06V10/24 , G06V10/774 , G06V10/764 , G06V10/82 , G06K9/62 , G06N3/04 , G06N3/08
Abstract: 本发明涉及一种在物理世界下具有旋转鲁棒性的图像对抗样本生成方法，涉及人工智能安全技术领域。主要步骤包括1.初始化算法参数与图像预处理得到当前对抗样本；2.利用当前对抗样本旋转得到旋转后的对抗样本；3.判断是否满足迭代终止条件，是则输出最终对抗样本并执行步骤7，否则执行步骤4；4.计算旋转不变联合梯度矩阵；5.对旋转不变联合梯度矩阵进行均值滤波；6.当前对抗样本更新，并返回步骤23；7.在真实物理世界下利用最终对抗样本进行测试，观察不同旋转角度下的对抗攻击效果。本发明生成的对抗样本在物理世界下具有旋转鲁棒性，解决了对抗样本在旋转过后攻击存在失效的情况，进一步提高了攻击成功率。
-
公开(公告)号：CN113935913A
公开(公告)日：2022-01-14
申请号：CN202111170040.7
申请日：2021-10-08
Applicant: 北京计算机技术及应用研究所
Abstract: 本发明涉及一种具有视觉感知隐蔽性的黑盒图像对抗样本生成方法，涉及人工智能安全技术领域。主要技术方案包括：1初始化算法参数以及对抗样本集合；2根据对抗攻击效果挑选优势对抗样本子集；3判断最优对抗样本是否攻击成功，如果攻击成功，则转到步骤6；4否则利用对抗样本子集交叉产生新的对抗样本集合；5按照一定概率添加隐蔽性噪声；6输出对抗样本并进行测试。本发明利用视觉感知的掩蔽效应，使产生的对抗样本与原始图像的视觉感知相似度高，具有良好的隐蔽性，能够在不被察觉的情况下发动黑盒对抗攻击。
-
公开(公告)号：CN117792676A
公开(公告)日：2024-03-29
申请号：CN202311546305.8
申请日：2023-11-20
Applicant: 北京计算机技术及应用研究所
IPC: H04L9/40
Abstract: 本发明涉及一种面向目标网络的特征构建方法，属于欺骗网络构建技术领域。本发明提供的一种面向目标网络的特征构建方法构建的网络特征具有唯一性、稳定性、可区分性、可测性和相关性等重要属性。其中，从网络设备特征、网络流量特征和网络拓扑特征三个方面选取和组合特征值，构建网络特征模型。该方法能够在确定网络特征表示方法的基础上，使用网络扫描、流量捕获、流量分析和拓扑测量、网络设备指纹识别等技术手段，获取网络特征的基础特征向量，通过对基础特征进行裁剪和组合，获得网络特征向量数据。
-
Patent Agency Ranking
公开(公告)号：CN115759081A
公开(公告)日：2023-03-07
申请号：CN202211398631.4
申请日：2022-11-09
Applicant: 北京计算机技术及应用研究所
IPC: G06F40/289 , G06F40/268 , G06F18/22 , G06F18/2431 , G06N5/01 , G06N5/02 , G06N3/0442 , G06N3/048 , G06N3/088 , G06N3/084 , H04L9/40
Abstract: 本发明涉及一种基于短语相似度的攻击模式抽取方法，属于信息安全技术领域。本发明能够从非结构化威胁情报文本中提取出特定的攻击模式，即攻击者对于目标所使用的攻击方法的抽象，并将其映射到ATT&CK矩阵，能够更准确地提取出非结构化的威胁情报文本中的攻击模式，且能够提高效率。
-
公开(公告)号：CN115542777A
公开(公告)日：2022-12-30
申请号：CN202211327589.7
申请日：2022-10-27
Applicant: 北京计算机技术及应用研究所
IPC: G05B17/02
Abstract: 本发明涉及一种针对异构多智能体仿真对抗环境的强化学习决策方法，属于深度强化学习攻防对抗技术领域。本发明针对异构多智能体对抗场景下强化学习难以训练的问题，基于分布执行集中训练的思想，通过结合长短期记忆网络引入历史数据，同时引入模仿学习加速算法收敛，最终实现了多智能体对抗的智能决策。
-
公开(公告)号：CN113949558A
公开(公告)日：2022-01-18
申请号：CN202111199545.6
申请日：2021-10-14
Applicant: 北京计算机技术及应用研究所
IPC: H04L9/40 , G10L21/0208 , G10L25/03 , G10L25/30 , G06N3/08
Abstract: 本发明涉及一种物理世界下的语音通用扰动生成方法，涉及人工智能安全技术领域。主要步骤包括初始化音频数据和扰动数据；基于循环移位扩充当前扰动数据，并与音频数据合成得到当前扰动样本；将当前扰动样本分别进行滤波处理，得到滤波后的扰动样本；基于滤波后的扰动样本计算损失函数并进行反向传播；根据当前梯度信息与学习率更新当前扰动数据；根据目标样本攻击成功率与非目标样本识别准确率，判断扰动数据是否成功生成。本发明集成多条语音样本生成通用扰动，利用循环移位和滤波器产生能够在真实物理环境下欺骗语音识别模型，并通过双目标优化实现只对目标类产生攻击效果，而几乎不影响非目标类识别。
-
公开(公告)号：CN116386607A
公开(公告)日：2023-07-04
申请号：CN202310355410.7
申请日：2023-04-06
Applicant: 北京计算机技术及应用研究所 , 西安电子科技大学
Abstract: 本发明涉及一种针对语音识别后门攻击的触发器逆向还原方法，涉及人工智能安全技术领域。主要技术方案包括：1构建投毒训练集；2计算投毒训练集样本相似度矩阵；3根据相似度矩阵检测潜在投毒样本；4利用潜在投毒样本进行触发器逆向还原；5投毒训练集去污化，得到去污化训练集；6利用投毒训练集、去污化训练集分别训练模型；7测试并对比去污化前后的模型识别结果。本发明通过语音端点检测与语音相似度得到潜在投毒样本，并对投毒样本使用的触发器进行逆向还原，实现训练集去污化，削弱投毒样本的后门攻击效果，降低后门攻击对模型的影响。
-
公开(公告)号：CN115272793A
公开(公告)日：2022-11-01
申请号：CN202210876725.1
申请日：2022-07-25
Applicant: 北京计算机技术及应用研究所
IPC: G06V10/774 , G06V10/82 , G06N3/08 , G06N3/04
Abstract: 本发明涉及一种基于GRAN架构的对抗样本攻防性能提升方法，属于人工智能安全技术领域。本发明基于攻防对抗博弈的思想，提出生成修复对抗网络架构GRAN，并基于该架构提出一种对抗样本生成和修复方法。该架构将对抗样本生成和修复放在同一架构下进行研究，并提出了一种对抗样本攻防性能提升方法，通过生成器和修复器对目标模型进行连续的对抗样本攻击和防御，提升对抗样本攻击和防御的能力，最终使目标模型面对对抗样本攻击时更加鲁棒，即可以抵御更强的对抗样本攻击。
-
-
-
-
-
-
-
-
-
Search Results
22
records
(took 0.046 seconds)
