公开(公告)号：CN118246517B

公开(公告)日：2024-09-27

申请号：CN202410661033.4

申请日：2024-05-27

Applicant: 西安电子科技大学广州研究院

Inventor： 赵宏 ,  薛明胜 ,  刘静

IPC: G06N3/094 ,  G06N3/086 ,  G06F18/214

Abstract: 本发明公开了基于多重普遍对抗扰动的黑盒对抗样本生成方法、装置，通过普遍对抗扰动生成多重普遍对抗扰动，然后将基于多重普遍对抗扰动的黑盒对抗样本生成过程分为两个阶段，通过共性扰动和个性扰动的生成，提高攻击效率及攻击效果；多重普遍对抗扰动避免了重复生成当前攻击算法中常见的通用扰动的冗余消耗，并为个性扰动的生成分配了更大的预算，从而提高了整体算法的攻击效率；在此基础上，利用从多重普遍对抗扰动中获得的经验来进一步生成个性化扰动，从而提高了整体算法的攻击效果。

公开(公告)号：CN117408351A

公开(公告)日：2024-01-16

申请号：CN202210808351.X

申请日：2022-07-08

Applicant: 西安电子科技大学广州研究院

Inventor： 朱江 ,  郭芷络涵 ,  薛明胜 ,  娄坚 ,  刘静

IPC: G06N20/00 ,  G06F21/62

Abstract: 本发明公开了一种差分隐私阶段性自适应矩估计优化方法，涉及隐私保护机器学习的优化技术领域，包括：获取矩估计优化模型的输入；其中，矩估计优化模型的输入包括数据集、步长超参数、迭代次数、差分隐私噪声参数和初始化模型参数值；分阶段优化模型参数，在不同阶段，基于不同的学习率，计算每轮迭代过程中的模型参数的梯度，并在梯度上加入基于差分隐私噪声参数的随机噪声；在梯度上加入随机噪声用于保护数据集中的隐私；基于获取的每轮迭代过程中的模型参数的梯度，更新每轮迭代过程中的模型参数；输出矩估计优化模型的最终模型参数。本申请能够保证在非凸损失下隐私和非隐私设定下模型的可用性。

公开(公告)号：CN117436092A

公开(公告)日：2024-01-23

申请号：CN202210798643.X

申请日：2022-07-07

Applicant: 西安电子科技大学广州研究院

Inventor： 薛明胜 ,  许丽莎 ,  娄坚 ,  刘静

IPC: G06F21/60 ,  G06N3/0475 ,  G06N3/045 ,  G06N3/094 ,  G06V10/764 ,  G06V10/774 ,  G06V10/82

Abstract: 本发明提供的一种基于全黑塞曲率的对抗训练模型的数据遗忘方法，将训练数据集中的样本图片输入至逻辑斯蒂模型学习训练，得到训练完成的逻辑斯蒂模型的参数；接收移除请求，当移除请求数量达到移除机制启动阈值时，使用共轭梯度法求解目标样本的全黑塞矩阵的相关信息与所有样本图像的全黑塞矩阵和，两者之间影响函数所导出的线性方程组来更新逻辑斯蒂模型的参数。本发明采用全黑塞矩阵相关形式，通过引入一系列的近似和转换增强移除的效率，极大地减小黑塞矩阵部分的计算量，同时仍然保持有效的遗忘学习性能。本发明的方法可以降低用户数据被不法分子所窃取的可能性。

公开(公告)号：CN118246517A

公开(公告)日：2024-06-25

申请号：CN202410661033.4

申请日：2024-05-27

Applicant: 西安电子科技大学广州研究院

Inventor： 赵宏 ,  薛明胜 ,  刘静

IPC: G06N3/094 ,  G06N3/086 ,  G06F18/214

Abstract: 本发明公开了基于多重普遍对抗扰动的黑盒对抗样本生成方法、装置，通过普遍对抗扰动生成多重普遍对抗扰动，然后将基于多重普遍对抗扰动的黑盒对抗样本生成过程分为两个阶段，通过共性扰动和个性扰动的生成，提高攻击效率及攻击效果；多重普遍对抗扰动避免了重复生成当前攻击算法中常见的通用扰动的冗余消耗，并为个性扰动的生成分配了更大的预算，从而提高了整体算法的攻击效率；在此基础上，利用从多重普遍对抗扰动中获得的经验来进一步生成个性化扰动，从而提高了整体算法的攻击效果。