公开(公告)号：CN116389058A

公开(公告)日：2023-07-04

申请号：CN202310198809.9

申请日：2023-03-03

Applicant: 上海交通大学 ,  工博士机器人技术有限公司

Inventor： 李高磊 ,  伍军 ,  杨铮 ,  陈贝 ,  申小朋

IPC: H04L9/40 ,  H04L41/16 ,  G06N3/098

Abstract: 本发明提供了基于日蚀策略的群体学习模型后门可传播性度量方法，包括：验证者遍历群体学习网络的各个节点，通过日蚀策略将其中数据贡献率最高的网络节点屏蔽；以使本地节点上参与训练的良性数据集中毒，生成中毒模型参数；参与模型训练的所有节点均上传本地模型参数，通过预设的选举算法随机产生的领导者下载所有参与者的参数文件并使用平均聚合算法合并；使得后门传播至此前未被投毒的良性节点上；调节日蚀策略的作用范围，观测群体学习中模型后门的传播特性。本发明提出的技术方案，不仅验证了后门攻击在群体学习场景下的可传播性，还对其传播速度、传播路径进行度量，为提高对模型后门威胁性的认知以及增强人工智能安全意识提供支撑。