公开(公告)号：CN117171267A

公开(公告)日：2023-12-05

申请号：CN202311105204.7

申请日：2023-08-30

Applicant: 中南大学

Inventor： 王建新 ,  王殊 ,  匡湖林 ,  刘渊

IPC: G06F16/27 ,  G06F16/2455 ,  G06F16/23 ,  G16H50/70 ,  G06V10/774 ,  G06V10/82 ,  G06N3/098

Abstract: 本发明公开了一种基于联邦学习的医疗机构数据共享方法，包括获取公共医疗数据集，建立参与联邦训练的医疗站点和服务终端的关联；构建联邦医疗数据结构知识提取块，提取结构知识集合；构建站点协作增强模块进行动态加权处理，获取共识结构知识；构建本地更新模块，计算本地整体损失；更新本地模型，完成站点的训练处理；采用完成训练的站点，在服务端进行聚合处理，获取全新的联邦医疗数据全局模型；重复上述步骤，循环运行多次联邦训练，直至获取的联邦医疗数据全局模型答案到期望的性能，完成联邦医疗数据模型的构建；采用构建的联邦医疗数据模型，实现医疗机构数据共享；本发明的性能提升、训练速度提高。

公开(公告)号：CN113052334A

公开(公告)日：2021-06-29

申请号：CN202110401739.3

申请日：2021-04-14

Applicant: 中南大学

Inventor： 王建新 ,  吴帆 ,  刘渊 ,  安莹 ,  胡建中 ,  黄伟红

IPC: G06N20/20 ,  G06N3/04

Abstract: 本发明公开了一种联邦学习实现方法、系统、终端设备及可读存储介质，该方法包括：客户端使用本地神经网络模型进行第一轮本地迭代得到模型权重和损失值，并上传至服务器；服务器将客户端的模型权重进行加权平均计算得到平均权重，以及根据客户端的损失值对客户端进行分组；客户端利用平均权重更新本地神经网络模型，并基于中位数损失自适应调节本地迭代次数，再基于本地数据进行迭代训练更新模型权值并得到新的损失值；客户端将更新后的模型权重和损失值上传至服务器进行循环更新。本发明的客户端以所在组的中位数损失值为标准调整本地迭代次数，有效降低本地计算复杂度，提升联邦学习效率，进一步利用公共数据集进行知识蒸馏，提升模型性能。

公开(公告)号：CN113052334B

公开(公告)日：2023-09-29

申请号：CN202110401739.3

申请日：2021-04-14

Applicant: 中南大学

Inventor： 王建新 ,  吴帆 ,  刘渊 ,  安莹 ,  胡建中 ,  黄伟红

IPC: G06N3/098 ,  G06N3/04

Abstract: 本发明公开了一种联邦学习实现方法、系统、终端设备及可读存储介质，该方法包括：客户端使用本地神经网络模型进行第一轮本地迭代得到模型权重和损失值，并上传至服务器；服务器将客户端的模型权重进行加权平均计算得到平均权重，以及根据客户端的损失值对客户端进行分组；客户端利用平均权重更新本地神经网络模型，并基于中位数损失自适应调节本地迭代次数，再基于本地数据进行迭代训练更新模型权值并得到新的损失值；客户端将更新后的模型权重和损失值上传至服务器进行循环更新。本发明的客户端以所在组的中位数损失值为标准调整本地迭代次数，有效降低本地计算复杂度，提升联邦学习效率，进一步利用公共数据集进行知识蒸馏，提升模型性能。

公开(公告)号：CN115511109A

公开(公告)日：2022-12-23

申请号：CN202211206093.4

申请日：2022-09-30

Applicant: 中南大学

Inventor： 王建新 ,  刘渊 ,  沈成超 ,  盛韬 ,  王殊 ,  段桂华

IPC: G06N20/20

Abstract: 本发明公开了一种高泛化性的个性化联邦学习实现方法，包括，服务端随机初始化全局双分支模型并发送初始化参数至客户端；客户端初始化本地双分支模型并利用本地数据进行本地迭代训练得到更新的客户端本地模型；将更新后的客户端本地模型训练的统计参数和全局任务分支的模型参数上传至服务端；服务端聚合所有客户端的全局任务分支的模型参数并更新发送给多个客户端；客户端根据服务端更新的全局任务分支模型参数并结合本地迭代训练得到的个性化任务分支模型参数，构成更新的客户端本地双分支模型；客户端使用本地双分支模型基于本地数据迭代训练并循环参与联邦更新直至满足预设标准。可在保证个性化联邦学习有效性的同时提升模型的泛化性。