-
公开(公告)号：CN113947579A
公开(公告)日：2022-01-18
申请号：CN202111212059.3
申请日：2021-10-18
Applicant: 北京计算机技术及应用研究所
Abstract: 本发明涉及一种针对图像目标探测神经网络的对抗样本检测方法，涉及人工智能安全技术领域。该方法包括步骤：构建对抗样本检测数据集；利用目标探测神经网络模型提取对抗样本检测特征数据集；搭建对抗样本检测神经网络；进行对抗样本检测神经网络训练，得到对抗样本检测模型；进行对抗样本检测模型性能测试。本发明利用目标探测神经网络生成的目标探测框之间存在顺序关系，提升了对抗样本检测准确率，并且通过浅层特征共享机制避免了过多额外计算。
-
公开(公告)号：CN119830292A
公开(公告)日：2025-04-15
申请号：CN202411686003.5
申请日：2024-11-24
Applicant: 北京计算机技术及应用研究所
IPC: G06F21/57
Abstract: 本发明涉及一种漏洞扫描的效果评估方法、装置及电子设备，属于漏洞扫描技术领域。本发明通过漏洞扫描程序对各目标网络环境进行漏洞扫描时产生的漏洞数据进行预处理，得到各目标网络环境的基础指标的指标值，进而计算出扫描程序对各目标网络环境的漏洞扫描效果评价值，最后基于各目标网络环境对应的漏洞扫描效果评价值，最终确定本次漏洞扫描的效果。这样，通过综合漏洞扫描程序对于各目标网络环境的系统漏洞、服务漏洞、Web漏洞的扫描效果，实现了一次对漏洞扫描威胁的综合评估，使得评估结果更全面、更准确，从而可以为漏洞利用研究人员或安全防御开发人员提供一套合理的漏洞扫描和漏洞威胁的评估方案。
-
公开(公告)号：CN118116056A
公开(公告)日：2024-05-31
申请号：CN202410304549.3
申请日：2024-03-18
Applicant: 北京计算机技术及应用研究所
IPC: G06V40/16 , G06V10/774 , G06V10/82 , G06V10/764 , G06N3/084
Abstract: 本发明公开了一种高鲁棒性人脸识别对抗样本生成方法，属于人工智能安全领域。主要技术方案包括：1.初始化算法参数与图像预处理得到当前对抗样本；2.计算输出多样性初始化梯度；3.输出多样性初始化对抗样本；4.针对真实物理世界数据增强；5.计算物理世界下数据增强累积梯度平均；6.当前对抗样本更新，并判断是否满足迭代终止条件；7.对最终对抗样本进行测试，观察不同类别对抗样本实际效果。本发明生成的对抗样本通过同时使用输出多样性初始化及模拟真实物理环境对图像增加对抗扰动，应用梯度高斯平滑、动量梯度及噪声抑制对生成的对抗样本图像进行更新，能够保证生成的对抗扰动隐藏在真实物理环境噪声之中，对抗样本在物理世界下较高鲁棒性。
-
公开(公告)号：CN116401548A
公开(公告)日：2023-07-07
申请号：CN202310357028.X
申请日：2023-04-06
Applicant: 北京计算机技术及应用研究所 , 西安电子科技大学
IPC: G06F18/214
Abstract: 本发明涉及一种基于经验模态分解的智能模型鲁棒性测试方法，属于人工智能模型鲁棒性判定技术领域。主要技术方案包括基于待测试智能模型，构建原始测试数据集；基于经验模态分解扩充原始测试数据集；计算不同分解程度下测试数据集的识别准确率、损失；计算智能模型识别准确率变化指标、识别损失变化指标。本发明的方法使用经验模态分解扩充采集得到原始测试数据集，并通过计算模型识别准确率与损失在不同分解程度下的变化趋势，能够对智能模型鲁棒性进行客观评价。
-
公开(公告)号：CN115733676A
公开(公告)日：2023-03-03
申请号：CN202211402844.X
申请日：2022-11-09
Applicant: 北京计算机技术及应用研究所
IPC: H04L9/40 , H04L41/142
Abstract: 本发明涉及一种面向高速网络流量的多维特征实时提取方法，属于网络安全技术领域。本发明针对智能网络威胁检测在高速网络环境下多维流量特征实时提取的技术难点，结合阻尼增量统计、草图两种思想，提出了特征增量统计草图ISS架构，并基于该架构提出一种高速网络下流量特征实时提取方法，用于在高负载网络下实时提取多维流量特征。该提取方法具有高速流量处理能力和流量特征实时计算能力，可在高速网络环境下实时提取多维流量特征。
-
Patent Agency Ranking
公开(公告)号：CN115032980A
公开(公告)日：2022-09-09
申请号：CN202210447172.8
申请日：2022-04-19
Applicant: 北京计算机技术及应用研究所
IPC: G05D1/02
Abstract: 本发明涉及一种基于对抗地图的深度强化学习导航应用鲁棒性增强方法，属于人工智能安全技术领域。本发明针对深度强化学习导航应用，为提高真实环境下DRL导航系统的鲁棒性，保证DRL导航模型在多种地图上均可安全导航，基于对抗样本的基本原理，提出了对抗地图的定义以及生成方法，并在此基础上通过“以攻促防”的方式，从对抗样本攻防角度出发，设计了一种基于对抗地图的鲁棒性增强方法，能够解决在真实环境下如何将对抗扰动添加到智能模型输入的问题，为真实环境下DRL导航模型的鲁棒性增强提供了一套可用的方案。
-
公开(公告)号：CN118740450A
公开(公告)日：2024-10-01
申请号：CN202410836635.9
申请日：2024-06-26
Applicant: 北京计算机技术及应用研究所
IPC: H04L9/40 , H04L41/06 , G06N3/045 , G06N3/0442 , G06N3/0464 , G06N3/042 , G06N3/088
Abstract: 本发明涉及一种基于多域多层级网络行为特征图的网络异常状态检测方法，属于网络安全领域。本发明提出了多域多层级行为特征图的构建方法，并基于该特征图提出了一种网络异常状态的检测方法，实现了在大规模的实际网络环境中对网络整体异常状态的检测，并在一定程度上还原出了攻击链路。其中，本发明通过分布式检测的方式实现对大规模网络拓扑条件下的网络异常状态检测。由于传统基于图的网络异常检测技术往往只在小规模网络下展开测试验证，在实际应用时难以在大规模网络下进行实时的检测。本技术方案采用分布式的思想，通过对目标网络进行合理划分，使得每个网络域只需要构建一个规模较小的图结构进行计算，实现对网络整体异常状态的实时检测。
-
公开(公告)号：CN117793020A
公开(公告)日：2024-03-29
申请号：CN202311563523.2
申请日：2023-11-22
Applicant: 北京计算机技术及应用研究所
IPC: H04L47/2441 , G06N3/0464 , G06N3/006 , G06N3/08
Abstract: 本发明涉及一种自适应卷积神经网络结构的网络流量分类方法，属于网络流量分类技术领域。本发明针对不同的网络流量或者不同的分类任务目标以自适应的方式搜寻最合适的卷积神经网络结构进行流量分类，利用粒子群优化算法优化卷积神经网络的结构，实现自动生成合适的结构进行分类，从而提高在卷积神经网络学习过程的学习准确率和效率，增强卷积神经网络结构对流量特征进行的学习能力，提升卷积神经网络算法对网络流量分类的准确率，减少人工调整超参数的不确定性以及时间成本。
-
公开(公告)号：CN116484274A
公开(公告)日：2023-07-25
申请号：CN202310363794.7
申请日：2023-04-07
Applicant: 北京计算机技术及应用研究所 , 西安电子科技大学
IPC: G06F18/241 , G06F18/2415 , G06N3/048 , G06N3/045 , G06N3/0442 , G06N3/084
Abstract: 本发明涉及一种针对神经网络算法投毒攻击的鲁棒训练方法，属于人工智能安全技术领域。该方法包括步骤：构建神经网络；构建鲁棒训练损失函数；使用包含投毒样本的训练集对神经网络进行预训练，得到神经网络预训练模型；根据神经网络预训练模型，获得包含投毒样本的训练集被预测为真实标签的概率，过滤预测概率低于过滤阈值的样本，从而剔除投毒样本，得到干净的训练集；使用干净的训练集对神经网络预训练模型进行再训练，得到神经网络模型；对神经网络模型进行性能测试。本发明利用模型预测结果与单调递增函数实现样本权重的自适应更新，增大投毒样本与干净样本的权重差异，降低了神经网络模型拟合投毒样本的风险，提高神经网络模型分类的准确率。
-
公开(公告)号：CN114332446B
公开(公告)日：2022-07-12
申请号：CN202111212057.4
申请日：2021-10-18
Applicant: 北京计算机技术及应用研究所
IPC: G06V10/24 , G06V10/774 , G06V10/764 , G06V10/82 , G06K9/62 , G06N3/04 , G06N3/08
Abstract: 本发明涉及一种在物理世界下具有旋转鲁棒性的图像对抗样本生成方法，涉及人工智能安全技术领域。主要步骤包括1.初始化算法参数与图像预处理得到当前对抗样本；2.利用当前对抗样本旋转得到旋转后的对抗样本；3.判断是否满足迭代终止条件，是则输出最终对抗样本并执行步骤7，否则执行步骤4；4.计算旋转不变联合梯度矩阵；5.对旋转不变联合梯度矩阵进行均值滤波；6.当前对抗样本更新，并返回步骤23；7.在真实物理世界下利用最终对抗样本进行测试，观察不同旋转角度下的对抗攻击效果。本发明生成的对抗样本在物理世界下具有旋转鲁棒性，解决了对抗样本在旋转过后攻击存在失效的情况，进一步提高了攻击成功率。
-
-
-
-
-
-
-
-
-
Search Results
22
records
(took 0.051 seconds)
