-
公开(公告)号：CN113297573B
公开(公告)日：2022-06-10
申请号：CN202110653120.1
申请日：2021-06-11
Applicant: 浙江工业大学
Abstract: 本发明公开了一种基于GAN模拟数据生成的垂直联邦学习防御方法，包括以下步骤：参与方准备训练数据特征和标签，主动参与方发送样本和标签，被动参与方准备匹配的特征数据；参与者进行关键属性查找，参与者采用模型结构进行训练，通过对神经元的权重值排序查找关键属性；使用GAN生成模拟数据，依次由生成器模型对随机生成的噪声进行训练，判别器模型根据置信度信息进行训练；关键属性值替换，GAN生成的模拟数据对关键属性替换，获得真实属性；参与方上传模拟数据进行训练，得到垂直联邦模型。本发明基于GAN的垂直联邦学习防御方法可有效防止参与方的隐私泄露，在可接受的模型性能降低的代价范围内保护数据隐私安全。
-
公开(公告)号：CN112560059B
公开(公告)日：2022-04-29
申请号：CN202011499140.X
申请日：2020-12-17
Applicant: 浙江工业大学
Abstract: 本发明公开了一种基于神经通路特征提取的垂直联邦下模型窃取防御方法，包括：(1)将数据集中的每张样本平均分成两部分，组成样本集DA和DB，且仅样本集DB包含样本标签；(2)依据DA对边缘终端PB的边缘模型MA进行训练，依据DB对边缘终端PB的边缘模型MB进行训练，PA将训练过程产生的特征数据发送给PB，PB利用接收的特征数据和激活神经元通路数据计算损失函数，PA和PB并将各自的损失函数掩码加密后上传至服务端；(3)服务端对上传的损失函数掩码解密并聚合后求解聚合的损失函数获得MA和MB的梯度信息，并返回梯度信息至PA和PB以更新边缘模型网络参数。来提高在垂直联邦场景下边缘模型的信息安全性。
-
公开(公告)号：CN112560059A
公开(公告)日：2021-03-26
申请号：CN202011499140.X
申请日：2020-12-17
Applicant: 浙江工业大学
Abstract: 本发明公开了一种基于神经通路特征提取的垂直联邦下模型窃取防御方法，包括：(1)将数据集中的每张样本平均分成两部分，组成样本集DA和DB，且仅样本集DB包含样本标签；(2)依据DA对边缘终端PB的边缘模型MA进行训练，依据DB对边缘终端PB的边缘模型MB进行训练，PA将训练过程产生的特征数据发送给PB，PB利用接收的特征数据和激活神经元通路数据计算损失函数，PA和PB并将各自的损失函数掩码加密后上传至服务端；(3)服务端对上传的损失函数掩码解密并聚合后求解聚合的损失函数获得MA和MB的梯度信息，并返回梯度信息至PA和PB以更新边缘模型网络参数。来提高在垂直联邦场景下边缘模型的信息安全性。
-
公开(公告)号：CN113298268B
公开(公告)日：2024-03-19
申请号：CN202110654359.0
申请日：2021-06-11
Applicant: 浙江工业大学
Abstract: 本发明公开了一种基于对抗噪声注入的垂直联邦学习方法，包括以下步骤：边缘客户端数据对齐，保证数据特征相同，不同边缘客户端之间相同训练数据成员id进行数据对齐匹配；边缘客户端和服务器端模型初始化工作准备，包括服务商协商选定客户端边缘网络模型和服务器端网络模型和结构，模型参数初始化设置；将客户端边缘网络模型训练产生的中间信息送至信息去敏装置注入对抗性噪声；将边缘客户端去敏的中间信息上传给服务器，利用服务器上布置的网络模型进行训练，并将梯度信息重新反馈给边缘客户端，迭代训练过程，直至联邦模型收敛。该发明不仅保护数据隐私还有效提升了模型的收敛速率，增强了垂直联邦学习框架的实用性。
-
公开(公告)号：CN111753985B
公开(公告)日：2024-02-23
申请号：CN202010600844.5
申请日：2020-06-28
Applicant: 浙江工业大学
IPC: G06V10/82 , G06N3/0464 , G06N3/08
Abstract: 本发明公开了一种基于神经元覆盖率的图像深度学习模型测试方法与装置，方法包括：选取图像数据集及M个采用图像数据集预训练好的图像深度学习模型；搭建生成式对抗网络；生成式对抗网络的生成器将随机分布映射为扰动图，再将扰动图加到图像数据集中的原始样本上，生成生成样本；针对M个预训练好的图像深度学习模型，以图像数据集作为训练集，基于神经元覆盖率和注意力机制训练生成式对抗网络；以图像数据集作为输入，分别采用M个训练好的生成器生成对抗样本，汇总后获得测试数据集；利用生成的测试数据集对待测图像深度学习模型进行测试。本发明基于注意力机制和神经元覆盖率，使得图像深度学习模型的测试结果更加可靠。
-
Patent Agency Ranking
公开(公告)号：CN111598143B
公开(公告)日：2023-04-07
申请号：CN202010344204.2
申请日：2020-04-27
Applicant: 浙江工业大学
IPC: G06V10/774 , G06N20/00 , G06Q40/02 , G06Q30/06
Abstract: 本发明公开了一种基于信用评估的面向联邦学习中毒攻击的防御方法，包括三个阶段：训练阶段，利用共享数据集中的训练集和边缘端的本地数据集进行训练，避免因数据没有独立同分布导致边缘端训练的模型较差，同时可利用共享数据集的测试集进行模型的第一轮信用评估；模型收集阶段，算出边缘端模型之间的L2距离，并根据距离进行第二轮信用评估；模型聚合阶段，使用替代模型进行聚合，并利用服务器端的测试集进行测试，根据在测试集的准确率进行第三轮的信用评估。根据信用得分，挑选合适的边缘端作为全局模型更新的来源，并在一定轮数后重新评估。可以挑选合适的边缘端进行训练，从而优化全局模型的训练过程。
-
公开(公告)号：CN113297573A
公开(公告)日：2021-08-24
申请号：CN202110653120.1
申请日：2021-06-11
Applicant: 浙江工业大学
Abstract: 本发明公开了一种基于GAN模拟数据生成的垂直联邦学习防御方法，包括以下步骤：参与方准备训练数据特征和标签，主动参与方发送样本和标签，被动参与方准备匹配的特征数据；参与者进行关键属性查找，参与者采用模型结构进行训练，通过对神经元的权重值排序查找关键属性；使用GAN生成模拟数据，依次由生成器模型对随机生成的噪声进行训练，判别器模型根据置信度信息进行训练；关键属性值替换，GAN生成的模拟数据对关键属性替换，获得真实属性；参与方上传模拟数据进行训练，得到垂直联邦模型。本发明基于GAN的垂直联邦学习防御方法可有效防止参与方的隐私泄露，在可接受的模型性能降低的代价范围内保护数据隐私安全。
-
公开(公告)号：CN112528281A
公开(公告)日：2021-03-19
申请号：CN202011463000.7
申请日：2020-12-11
Applicant: 浙江工业大学
Abstract: 本申请提供一种联邦学习的模型中毒攻击检测方法、装置及设备，涉及人工智能技术领域。该方法包括：接收参与联邦学习的至少一个终端设备发送的终端设备侧模型的模型参数；根据各终端设备侧模型的模型参数进行聚合处理，得到服务器侧的聚合模型；对聚合模型进行反演，得到聚合模型的反演数据集；根据聚合模型的反演数据集生成中毒补丁；根据中毒补丁，确定聚合模型是否是正常模型。该方法可以保证对联邦学习的模型中毒攻击检测的效率，还可以保证各终端设备中的本地数据的安全隐私。
-
公开(公告)号：CN112365005A
公开(公告)日：2021-02-12
申请号：CN202011459232.5
申请日：2020-12-11
Applicant: 浙江工业大学
Abstract: 本发明公开了一种基于神经元分布特征的联邦学习中毒检测方法，包括以下步骤：(1)获取在客户端训练并上传的多个边缘模型，依据每个客户端对应的相邻几次上传的边缘模型的相似度，从每次上传的多个边缘模型筛选满足筛选要求的多个边缘模型作为候选中毒模型；(2)依据模型参数的分布状态，从候选中毒模型中筛选至少1个模型作为中毒模型，并剔除中毒模型，(3)根据样本数据和标签对中毒模型进行反演以得到中毒补丁数据，依据中毒补丁数据优化服务端的聚合模型参数，得到优化后的聚合模型，将优化后的聚合模型由服务端下发到客户端作为客户端的边缘模型，用于下一轮次的边缘训练。该联邦学习中毒检测方法能够快速检测中毒模型。
-
公开(公告)号：CN113362217B
公开(公告)日：2025-04-04
申请号：CN202110777127.4
申请日：2021-07-09
Applicant: 浙江工业大学
IPC: G06T1/00 , G06V10/764 , G06V10/82 , G06N3/0464 , G06N3/08
Abstract: 本发明公开了一种基于模型水印的深度学习模型中毒防御方法，所述方法包括如下步骤：收集图片数据集并分类，针对每一类图片数据集制作相对应的水印图片；利用水印嵌入器，将图片数据集中的原图片域A与水印组合成新图片域A+，利用嵌入损失函数对水印嵌入器进行训练；利用分类损失函数训练得到分类模型，分类模型对图片进行分类，且将新图片域A+、A输入到分类模型在指定的一层的特征图中得到并对应保存特征区域T+、T；利用提取损失函数训练得到水印提取器，将特征区域T和T+输入到水印提取器中对水印进行提取；根据分类模型对图片进行的分类结果以及水印提取器中水印的提取结果进行加权后预测结果。
-
-
-
-
-
-
-
-
-
Search Results
36
records
(took 0.024 seconds)
