一种针对神经网络算法投毒攻击的鲁棒训练方法

    公开(公告)号:CN116484274A

    公开(公告)日:2023-07-25

    申请号:CN202310363794.7

    申请日:2023-04-07

    Abstract: 本发明涉及一种针对神经网络算法投毒攻击的鲁棒训练方法,属于人工智能安全技术领域。该方法包括步骤:构建神经网络;构建鲁棒训练损失函数;使用包含投毒样本的训练集对神经网络进行预训练,得到神经网络预训练模型;根据神经网络预训练模型,获得包含投毒样本的训练集被预测为真实标签的概率,过滤预测概率低于过滤阈值的样本,从而剔除投毒样本,得到干净的训练集;使用干净的训练集对神经网络预训练模型进行再训练,得到神经网络模型;对神经网络模型进行性能测试。本发明利用模型预测结果与单调递增函数实现样本权重的自适应更新,增大投毒样本与干净样本的权重差异,降低了神经网络模型拟合投毒样本的风险,提高神经网络模型分类的准确率。

    一种基于高隐蔽性通用扰动的对抗样本生成方法

    公开(公告)号:CN111680292B

    公开(公告)日:2023-05-16

    申请号:CN202010524788.1

    申请日:2020-06-10

    Abstract: 本发明涉及一种基于高隐蔽性通用扰动的对抗样本生成方法,涉及人工智能安全技术领域。本发明首先将攻击目标函数优化问题,由最大化单一图像的损失,调整为最大化某特定类别图像的期望损失,以实现扰动的通用性;其次,为提高对抗样本的不易察觉性,本发明设置多目标优化函数,使特定类别的图像被错误识别的同时,保证其他类别的图像不受干扰影响,仍能被正确决策;最后,在隐蔽性方面,经前期实验发现,传统的梯度方法能够较快地产生具有对抗效果的扰动,而低频噪声往往更隐蔽更稳定,因此,本发明在使用传统梯度方法生成初步的对抗扰动后,进一步采用低通滤波器来消除通用扰动中的高频尖锐噪音,在实现通用攻击的同时保证对抗样本的隐蔽性。

    一种基于磁盘文件片段感知的计算机取证检测方法

    公开(公告)号:CN115016731A

    公开(公告)日:2022-09-06

    申请号:CN202210583541.6

    申请日:2022-05-25

    Abstract: 本发明涉及一种基于磁盘文件片段感知的计算机取证检测方法,属于网络安全技术领域。本发明通过对计算机系统磁盘的工作原理、存储形式的深入剖析,以及对各种文件类型的编码特性的综合研究,基于对物理磁盘上的文件片段数据痕迹的感知,实现在文件系统受损或原始磁盘镜像中文件类型不明的情况下对多种类型磁盘文件进行有效修复,实现在文件存在分片、失序以及部分数据损坏或丢失等异常情况下,对文件的准确修复,从而提高文件修复的成功率和准确率,提升安全检查中文件取证检测的能力。

Patent Agency Ranking