一种基于局部自注意力机制的个性化联邦聚合算法

    公开(公告)号:CN117350373B

    公开(公告)日:2024-03-01

    申请号:CN202311617677.5

    申请日:2023-11-30

    Abstract: 本发明涉及分布式机器学习技术领域,公开了一种基于局部自注意力机制的个性化联邦聚合算法,包括如下步骤:中央服务器将预训练好的全局模型分发给多个客户端;多个客户端根据本地数据集分别对所得模型进行训练;多个客户端将本地训练得到的模型参数分别加密,上传至中央服务器;中央服务器对所有模型的梯度进行聚合,生成全局模型参数;中央服务器将聚合后的全局模型参数分别加密,传回至多个客户端。本发明为解决联邦学习中非独立同分布数据的泛化误差问题提供了有效的策略,可以在保证数据隐私的同时提高模型的全局性能。(56)对比文件Hongda Wu等.Fast-Convergent FederatedLearning with Adaptive Weighting《.2021 |IEEE INTERNATIONAL CONFERENCE ONCOMMUNICATIONS (ICC 2021)》.2021,1078-1088.

    基于元学习的深度哈希检索方法

    公开(公告)号:CN114064949B

    公开(公告)日:2025-04-08

    申请号:CN202111334739.2

    申请日:2021-11-11

    Abstract: 本发明公开了基于元学习的深度哈希检索算法,1)对图像数据进行预处理,将平衡图像数据集转化为非平衡图像数据集;2)对元学习网络的参数#imgabs0#、图像检索网络的参数#imgabs1#进行更新;利用非平衡图像数据集在图像检索网络中对#imgabs2#进行优化,利用平衡图像数据集在元学习网络中对#imgabs3#进行优化;3)构建图像检索训练过程的学习方式;4)对图像检索训练过程中的参数进行更新;5)图像检索生成哈希码过程,输入图像经过卷积神经网络CNN的全连接层的特征激活作为视觉特征,利用视觉特征进行小规模的图像检索。通过从训练损失到样本权值的加权函数,该算法不需要手动预先指定权重函数及额外的超参数,可以直接从数据中自适应地学习显式加权函数。

Patent Agency Ranking