-
公开(公告)号：CN118133991B
公开(公告)日：2024-08-06
申请号：CN202410561835.8
申请日：2024-05-08
Applicant: 山东大学
Abstract: 本申请涉及联邦学习模型训练进度控制技术领域，涉及一种面向联邦学习的数据分类同步控制方法及装置、介质。所述方法包括：云服务器初始化并下发全局模型；手机节点计算本地数据难度分布，云服务器计算本轮全局模型中的数据难度阈值；手机节点根据阈值筛选符合当前难度阶段的数据，进行本地训练；云服务器接收到模型更新，进行聚合，获得新的全局模型；对新的全局模型进行测试得到测试损失，判别测试损失是否满足切换阶段的条件，若满足则进入下一阶段，若不满足继续当前阶段；重复训练过程至训练完成。本发明以全局同步的方式实现自步学习由简单至困难的学习过程，提升了模型精度和收敛速度，具有良好的泛化性。
-
Patent Agency Ranking
公开(公告)号：CN117392483B
公开(公告)日：2024-02-23
申请号：CN202311657248.0
申请日：2023-12-06
Applicant: 山东大学
IPC: G06V10/774 , G06V10/94 , G06V10/764 , G06V20/30 , G06F16/55 , G06N20/00
Abstract: 本申请涉及联邦学习大模型训练加速技术领域，公开基于增强学习的相册分类模型训练加速方法、系统及介质。具体是在手机相册本地智能分类场景中，将手机上传的模型更新的聚合问题转化为增强学习的目标问题，基于增强学习在云服务器中建立手机相册本地分类模型的Q表，Q表中的Q值最大的动作是当前状态下最优的聚合权重分配方案，能够精确表示各个参与联邦学习的手机对全局模型的贡献。在手机相册分类模型聚合过程中提升了聚合后的模型质量，加快了模型收敛速度，降低了通信开销。
-
公开(公告)号：CN117392483A
公开(公告)日：2024-01-12
申请号：CN202311657248.0
申请日：2023-12-06
Applicant: 山东大学
IPC: G06V10/774 , G06V10/94 , G06V10/764 , G06V20/30 , G06F16/55 , G06N20/00
Abstract: 本申请涉及联邦学习大模型训练加速技术领域，公开基于增强学习的相册分类模型训练加速方法、系统及介质。具体是在手机相册本地智能分类场景中，将手机上传的模型更新的聚合问题转化为增强学习的目标问题，基于增强学习在云服务器中建立手机相册本地分类模型的Q表，Q表中的Q值最大的动作是当前状态下最优的聚合权重分配方案，能够精确表示各个参与联邦学习的手机对全局模型的贡献。在手机相册分类模型聚合过程中提升了聚合后的模型质量，加快了模型收敛速度，降低了通信开销。
-
公开(公告)号：CN118101501B
公开(公告)日：2024-07-05
申请号：CN202410487452.0
申请日：2024-04-23
Applicant: 山东大学
IPC: H04L41/16 , H04L41/045 , H04L41/0823 , H04L41/0894 , G06N20/20
Abstract: 一种工业物联网异构联邦学习的通信方法和系统，属于联邦学习系统通信优化技术领域。通过以下技术方案实现：建立联邦学习架构；初始化全局模型，随机选择客户端节点下发全局模型，进行本地模型训练；触发多粒度量化模块量化更新后的本地模型参数；中心服务器接收到各设备节点上传的模型更新，将量化的模型更新传入到解量化模块中进行解量化；中心服务器将解量化后的结果送入阶段聚合模块实现模型参数聚合，重复迭代直到本次联邦学习到达预定的训练轮数，结束训练，将训练好的模型部署至工厂智能终端设备。本发明在保持模型精度的同时大大降低了各设备节点的通信成本，加快了全局模型收敛，具有良好的泛化性。
-
公开(公告)号：CN118133991A
公开(公告)日：2024-06-04
申请号：CN202410561835.8
申请日：2024-05-08
Applicant: 山东大学
Abstract: 本申请涉及联邦学习模型训练进度控制技术领域，涉及一种面向联邦学习的数据分类同步控制方法及装置、介质。所述方法包括：云服务器初始化并下发全局模型；手机节点计算本地数据难度分布，云服务器计算本轮全局模型中的数据难度阈值；手机节点根据阈值筛选符合当前难度阶段的数据，进行本地训练；云服务器接收到模型更新，进行聚合，获得新的全局模型；对新的全局模型进行测试得到测试损失，判别测试损失是否满足切换阶段的条件，若满足则进入下一阶段，若不满足继续当前阶段；重复训练过程至训练完成。本发明以全局同步的方式实现自步学习由简单至困难的学习过程，提升了模型精度和收敛速度，具有良好的泛化性。
-
公开(公告)号：CN118101501A
公开(公告)日：2024-05-28
申请号：CN202410487452.0
申请日：2024-04-23
Applicant: 山东大学
IPC: H04L41/16 , H04L41/045 , H04L41/0823 , H04L41/0894 , G06N20/20
Abstract: 一种工业物联网异构联邦学习的通信方法和系统，属于联邦学习系统通信优化技术领域。通过以下技术方案实现：建立联邦学习架构；初始化全局模型，随机选择客户端节点下发全局模型，进行本地模型训练；触发多粒度量化模块量化更新后的本地模型参数；中心服务器接收到各设备节点上传的模型更新，将量化的模型更新传入到解量化模块中进行解量化；中心服务器将解量化后的结果送入阶段聚合模块实现模型参数聚合，重复迭代直到本次联邦学习到达预定的训练轮数，结束训练，将训练好的模型部署至工厂智能终端设备。本发明在保持模型精度的同时大大降低了各设备节点的通信成本，加快了全局模型收敛，具有良好的泛化性。
-
-
-
-
-
Search Results
6
records
(took 0.018 seconds)
