公开(公告)号：CN119398128B

公开(公告)日：2025-03-25

申请号：CN202411988061.3

申请日：2024-12-31

Applicant: 安徽大学

Inventor： 翁畅 ,  何婉玲 ,  程誉 ,  刘宇航 ,  马作邦 ,  朱涛 ,  卢一相 ,  竺德

IPC: G06N3/084 ,  G06N3/045

Abstract: 本发明公开了一种预训练语言模型精确参数的微调方法及系统，方法包括：构建鲁棒适配器；将多个构建好的鲁棒适配器串联形成鲁棒适配器链并确定最大链节点；准备预训练语言模型的权重和对应任务标注的数据集；先对鲁棒适配器链中每个鲁棒适配器进行初步训练优化近似微调鲁棒适配器的参数；近似微调鲁棒适配器的参数后，将其与前序冻结的预训练语言模型的权重合并完成当前鲁棒适配器链节点的计算，并生成用于下一次迭代的残差信息，并同时更新当前鲁棒适配器的参数；进行迭代训练，更新残差信息，直至迭代次数等于鲁棒适配器链的最大节点，获取预训练语言模型的最佳权重以及鲁棒适配器的最佳参数，本发明能提供更稳定的收敛性和更简单的超参数调整。

公开(公告)号：CN118468053A

公开(公告)日：2024-08-09

申请号：CN202410557309.4

申请日：2024-05-07

Applicant: 安徽大学

Inventor： 卢一相 ,  程邵杰 ,  竺德 ,  赵大卫 ,  马作邦 ,  孙冬

IPC: G06F18/22 ,  G01M13/021 ,  G01M13/028 ,  G06F18/10 ,  G06F17/10 ,  G06N3/0442 ,  G06N3/0464 ,  G06N3/045 ,  G06N3/084 ,  G06F18/2113

Abstract: 本发明涉及旋转机械的故障诊断与健康管理技术领域，解决了传统方法无法快速且准确预测齿轮箱剩余使用寿命的技术问题，尤其涉及一种基于BiSACvLSTM的齿轮箱寿命预测方法，该方法包括以下步骤：获取齿轮箱加速度的振动信号，并通过EEMD将振动信号分解为若干个固有模态函数IMF和残差；采用相似性度量方法EISI从若干固有模态函数IMF中选取具有更多退化特征的固有模态函数IMFs；构建用于对齿轮箱剩余使用寿命RUL进行预测的BiSACvLSTM网络。本发明所提出的预测方法能够快速、准确的对齿轮箱进行剩余寿命预测，并且计算复杂度较小，同时提升齿轮箱剩余使用寿命预测的准确率和鲁棒性。

公开(公告)号：CN119398128A

公开(公告)日：2025-02-07

申请号：CN202411988061.3

申请日：2024-12-31

Applicant: 安徽大学

Inventor： 翁畅 ,  何婉玲 ,  程誉 ,  刘宇航 ,  马作邦 ,  朱涛 ,  卢一相 ,  竺德

IPC: G06N3/084 ,  G06N3/045

Abstract: 本发明公开了一种预训练语言模型精确参数的微调方法及系统，方法包括：构建鲁棒适配器；将多个构建好的鲁棒适配器串联形成鲁棒适配器链并确定最大链节点；准备预训练语言模型的权重和对应任务标注的数据集；先对鲁棒适配器链中每个鲁棒适配器进行初步训练优化近似微调鲁棒适配器的参数；近似微调鲁棒适配器的参数后，将其与前序冻结的预训练语言模型的权重合并完成当前鲁棒适配器链节点的计算，并生成用于下一次迭代的残差信息，并同时更新当前鲁棒适配器的参数；进行迭代训练，更新残差信息，直至迭代次数等于鲁棒适配器链的最大节点，获取预训练语言模型的最佳权重以及鲁棒适配器的最佳参数，本发明能提供更稳定的收敛性和更简单的超参数调整。