深度学习差分隐私算法保护效果的评估方法、系统及装置

    公开(公告)号:CN115081019A

    公开(公告)日:2022-09-20

    申请号:CN202210711148.0

    申请日:2022-06-22

    Applicant: 广州大学

    Abstract: 本发明公开了一种深度学习差分隐私算法保护效果的评估方法、系统及装置,包括,从训练集D中选取k个样本,将k个样本根据针对性标记样本生成方法生成k个标记样本;将k个标记样本插入训练集D中生成对比训练集D’;随机选取D或D’作为训练集,结合差分隐私的深度学习算法训练得到深度学习模型;将深度学习模型和k个标记样本输入判别器,分别计算k个标记样本的损失值Loss,根据k个损失值判断训练深度学习模型采用的训练集;统计判别器判别结果中的假正例个数和假负例个数,根据假正例个数和假负例个数计算得到组隐私损失值,组隐私损失值表示该差分算法隐私保护强度。本发明可以实现面向深度学习中差分隐私算法保护效果的评估。

    一种基于差分隐私的文本内容保护方法

    公开(公告)号:CN115935405A

    公开(公告)日:2023-04-07

    申请号:CN202211119838.3

    申请日:2022-09-15

    Applicant: 广州大学

    Abstract: 本发明涉及文本数据隐私保护中的差分隐私方法和深度学习技术领域,公开了一种基于差分隐私的文本内容保护方法,包括如下步骤:客户端对差分隐私和文本分析任务的阈值进行设定;客户端根据敏感信息内容,按照内容类型和字符长度进行分类和标记,构建敏感属性字典;根据具有相同标签的敏感属性内容集合,在语料库中查询到满足相似度阈值范围的语料内容;利用基于本地化差分隐私的广义随机响应机制,将敏感信息内容替换为在语料库中查询到的语料内容;由服务器聚合当前所有文本数据,并将其配置到文本分析任务模型中计算文本分析任务的准确率;服务器将文本分析任务的准确率发送给所有客户端,并由其判断是否在可接受的文本准确率阈值范围内。

    一种面向本地化差分隐私数据投毒攻击的防御方法

    公开(公告)号:CN115563616A

    公开(公告)日:2023-01-03

    申请号:CN202210996394.5

    申请日:2022-08-19

    Applicant: 广州大学

    Abstract: 本发明涉及差分隐私和数据投毒防御技术领域,公开了一种面向本地化差分隐私数据投毒攻击的防御方法,其包括如下步骤:用户的数据经过LDP机制编码扰动之后,变为噪声数据,再将噪声数据上传到中心服务器中;中心服务器对每个用户的噪声数据进行差异放大和降维,再将差异放大后的数据映射到高维空间中的一个点;中心服务器根据异常点检测算法,随机抽取空间中的点,训练出t棵孤立二叉树;中心服务器利用孤立二叉树对每个节点进行评估,根据每个节点与根节点的距离,对节点进行打分;中心服务器筛选出异常点,剔除异常数据,并将上传该数据的用户进行标记,若标记超过3次,则剔除掉该用户。

    面向联邦学习的轻量级密文模型贡献度评估方法及系统

    公开(公告)号:CN116992463A

    公开(公告)日:2023-11-03

    申请号:CN202310782231.1

    申请日:2023-06-28

    Applicant: 广州大学

    Abstract: 本公开提供了一种面向联邦学习的轻量级密文模型贡献度评估方法及系统,方法包括:中心服务器对所有用户分组,分组信息发送给用户;在分组中选择一个第一用户,第一用户选择一个随机数作基数;中心服务器获取从第一用户开始,所有用户将预噪声添加到基数中得到的基数与所有预噪声的和;中心服务器通过第一用户减去基数得所有预噪声的和并告知分组中用户;分组中用户使用所有预噪声的和对预噪声修正得噪声,添加到模型中得噪声模型;中心服务器接收用户根据所在分组生成的噪声模型,对噪声模型进行分组聚合和贡献度评估,根据评估结果处理相应的用户和噪声模型。本公开可确保密文数据生成效率和可用性,提高用户和模型管理精细度。

    一种基于本地差分隐私的大数据频数估计方法

    公开(公告)号:CN115455483A

    公开(公告)日:2022-12-09

    申请号:CN202211156864.3

    申请日:2022-09-21

    Applicant: 广州大学

    Abstract: 本发明涉及数据分析技术领域,公开了一种基于本地差分隐私的大数据频数估计方法,包括如下步骤:服务器对所有客户端进行等概率采样,并发送哈希函数集合和草图长度的取值;客户端对初始数据进行转换,并根据哈希结果替换对应数据坐标;客户端利用本地差分隐私随机响应机制扰动上一步数据,得到最新数据;客户端发送最新数据,服务器根据采样的最新数据集合训练频数预测模型并发送给剩余所有客户端;剩余所有客户端根据预测模型判断持有数据是否为高频数据;若是高频数据,以{‑1}m的方式进行编码;若不是高频数据,先对初始数据进行转换,再根据哈希结果替换对应数据坐标,最后利用本地差分隐私随机响应机制扰动所有数据。

    一种面向本地化差分隐私的图统计分析方法

    公开(公告)号:CN115114381A

    公开(公告)日:2022-09-27

    申请号:CN202210712792.X

    申请日:2022-06-22

    Applicant: 广州大学

    Abstract: 本发明属于差分隐私和子图统计技术领域,公开了一种面向本地化差分隐私的图统计分析方法,包括如下步骤:S1、针对现有图统计分析算法存在隐私泄露的问题,设置的框架让每个用户对他的邻接列表数据进行扰动;S2、再将噪声数据发送到服务器,服务器接收到扰动的数据后再计算出子图计数的无偏估计;S3、通过三角形和k‑stars的实用计数算法,在不接触用户的原始数据的条件下计算出图中的聚类系数;S4、服务器根据聚类系数,可以向聚类系数高的子图中的用户推送相关的服务。该面向本地化差分隐私的图统计分析方法,可以降低子图统计的估计误差,确保算法的实用性,并且其客户端无需了解额外信息,提高子图统计分析的隐私性。

    一种基于安全数据合成的联邦学习公平模型聚合方法

    公开(公告)号:CN119721137A

    公开(公告)日:2025-03-28

    申请号:CN202411795000.5

    申请日:2024-12-06

    Applicant: 广州大学

    Abstract: 本发明公开了一种基于安全数据合成的联邦学习公平模型聚合方法,通过训练一个学生模型来指导生成器模型的生成,将参与方的数据分割成多个不相交子集并训练多个教师模型,然后利用生成器生成的数据样本进行分类和投票,对投票结果进行加噪聚合以保护隐私,接着使用带噪声的聚合结果标注数据集并训练学生模型,进一步优化生成器。经过一定轮次的优化后,将生成器分发给各参与方,最后将聚合好的模型发送给各参与方以继续训练,从而在保护数据隐私的同时实现模型的公平优化。

    一种面向本地化差分隐私数据投毒攻击的防御方法

    公开(公告)号:CN115563616B

    公开(公告)日:2024-04-16

    申请号:CN202210996394.5

    申请日:2022-08-19

    Applicant: 广州大学

    Abstract: 本发明涉及差分隐私和数据投毒防御技术领域,公开了一种面向本地化差分隐私数据投毒攻击的防御方法,其包括如下步骤:用户的数据经过LDP机制编码扰动之后,变为噪声数据,再将噪声数据上传到中心服务器中;中心服务器对每个用户的噪声数据进行差异放大和降维,再将差异放大后的数据映射到高维空间中的一个点;中心服务器根据异常点检测算法,随机抽取空间中的点,训练出t棵孤立二叉树;中心服务器利用孤立二叉树对每个节点进行评估,根据每个节点与根节点的距离,对节点进行打分;中心服务器筛选出异常点,剔除异常数据,并将上传该数据的用户进行标记,若标记超过3次,则剔除掉该用户。

    一种多模态数据融合训练中的隐私参数优化方法

    公开(公告)号:CN115310122B

    公开(公告)日:2023-05-26

    申请号:CN202210821237.0

    申请日:2022-07-13

    Applicant: 广州大学

    Abstract: 本发明公开了一种多模态数据融合训练中的隐私参数优化方法,包括以下步骤:S1:客户端用户对隐私保护效果进行设定;S2:客户端针对文本、图像、音频的各类型数据使用对应的隐私保护方法进行脱敏处理,对脱敏处理后的数据进行单独模态的分类训练;S3:得出包含敏感数据准确率和非敏感数据准确率的各模态的分类准确率,判断敏感数据准确率是否满足用户需求;S4:基于权重自分配算法完成信息融合,得出最终的目标分类结果及敏感信息分类结果accns,accs;S5:服务器分别对敏感及非敏感数据分类结果进行评估。本发明提供的隐私参数优化方法,可有效提高分类结果的准确性,在满足用户隐私保护需求的前提下达到最佳准确率。

    一种基于联盟链智能合约的隐私数据访问控制方法

    公开(公告)号:CN115580431B

    公开(公告)日:2024-07-02

    申请号:CN202211063417.3

    申请日:2022-09-01

    Applicant: 广州大学

    Abstract: 本发明公开了一种基于联盟链智能合约的隐私数据访问控制方法,包括以下步骤:S1:初始化系统,设置系统参数并计算用户公钥;S2:生成发布数据的密文,构造发往服务器的消息;S3:请求数据并验证权限;S4:从数据库中下载数据;S5:更新本地授权信息,新增享有资源的用户的权限;S6:更新本地授权信息,删除不再享有资源的用户的权限。本发明提供的技术方案能够实现对数据访问者的访问权限控制:联盟链中的权限验证智能合约来验证请求者权限的MPT中的相关隐私数据,智能合约验证计算结果是否与区块中相应的MPT哈希值相等,有效地实现了实现对数据访问者的访问权限控制。

Patent Agency Ranking