一种基于元学习及语言对子网的多语言神经机器翻译模型训练方法

    公开(公告)号:CN119783692A

    公开(公告)日:2025-04-08

    申请号:CN202411852040.9

    申请日:2024-12-16

    Abstract: 一种基于元学习及语言对子网的多语言神经机器翻译模型训练方法,它属于机器翻译技术领域。本发明解决了现有的多语言翻译共享模型的翻译性能差的问题。本发明借助ML方法对多语言翻译模型进行初始参数优化,得到局部最优参数值,ML通过学习任务间共享表示,并对每种语言对进行自适应调整,可以减少参数干扰,保证翻译性能。通过学习语言特定子网可以获得每种语言对任务的掩码矩阵,在模型训练时每次仅仅更新输入语言对数据对应的模型参数,使多语言翻译模型能够避免参数干扰,同时提升训练效率。在后续翻译任务中,仅需要掩码矩阵中元素1对应的模型参数来参与翻译结果预测,降低了模型计算的复杂度。本发明方法可以应用于机器翻译领域。

    一种基于一致性扩散模型的三维CT影像合成方法及系统

    公开(公告)号:CN118967944A

    公开(公告)日:2024-11-15

    申请号:CN202411182646.6

    申请日:2024-08-27

    Abstract: 一种基于一致性扩散模型的三维CT影像合成方法及系统,它属于三维CT影像生成技术领域。本发明解决了目前可用于模型训练的三维CT影像和医学报告配对数据的数据量不足的问题。本发明搭建包括预训练的医学报告编码模型、一致性扩散模型和变分自编码器的模型,对获取的三维CT影像与医学报告配对数据集中的医学报告进行预处理,再利用预处理后的数据集对搭建的模型进行训练,利用训练好的模型和公开的医学报告就可以生成医学报告对应的三维CT影像,可以解决公开的三维CT影像和医学报告配对数据不足的问题,从而提升计算影像学对三维CT影像方面的研究能力。本发明方法可以应用于三维CT影像合成领域。

    一种用于医疗问诊分离的摘要生成方法

    公开(公告)号:CN115966317A

    公开(公告)日:2023-04-14

    申请号:CN202211679693.2

    申请日:2022-12-26

    Abstract: 一种用于医疗问诊分离的摘要生成方法,涉及自然语言处理技术领域,针对现有技术中生成的对话摘要准确率低的问题,本申请通过在话语层附加标记器来预测标签,然后将PADE和DOTR标记的话语进行串接,分别生成患者问题摘要和医生诊断摘要,以此生成更加准确的医疗对话摘要,可以用于医患对话系统中,有助于帮助有相似问题的患者提供医疗服务,生成准确的医疗对话摘要,同样有利于辅助医生做出合适的诊断和提供合理的治疗方案。

    一种基于量子启发的多任务多模态微表情识别系统

    公开(公告)号:CN114842533A

    公开(公告)日:2022-08-02

    申请号:CN202210476248.X

    申请日:2022-04-29

    Inventor: 刘宇鹏 冯贤杰

    Abstract: 一种基于量子启发的多任务多模态微表情识别系统,它属于微表情识别技术领域。本发明解决了现有方法不能从视频中识别出多模态信息,导致采用现有方法对微表情识别的准确率低的问题。本发明提出基于文本特征向量、人脸特征向量和语音特征向量引入每种模态的上下文注意力权重,有助于学习文本、人脸和音频的上下文信息,同时捕捉与情感密切相关的特征。设计的量子启发Attention机制利用交互注意力将其中一个模态的信息关联到另一个模态,整合不同模态信息,使每个单独模态可以拥有其他模态的信息,获得更丰富的特征。通过对多模态信息进行获取和处理,可以提高对微表情识别的准确率。本发明方法可以应用于微表情识别。

    一种基于医疗联邦方的训练系统及训练方法

    公开(公告)号:CN115547437A

    公开(公告)日:2022-12-30

    申请号:CN202211151905.X

    申请日:2022-09-21

    Inventor: 刘宇鹏 林明豪

    Abstract: 一种基于医疗联邦方的训练系统及训练方法,它属于机器学习模型训练领域。本发明解决了采用现有方法训练出的机器学习模型的精度低的问题。本发明以高效和隐私保护的方式提供了公平、准确的联邦学习参与方贡献评估,同时基于贡献评估结果设计了模型聚合方法,指导在线的联邦学习服务器选择性能最好的中间聚合模型分发给各医疗联邦方进行本地训练,就可以训练出满足精度要求的机器学习模型,提高了所获得的机器学习模型的精度。本发明方法可以应用于机器学习模型训练领域。

    基于深度神经网络的社交文本依存句法分析系统

    公开(公告)号:CN111414749B

    公开(公告)日:2022-06-21

    申请号:CN202010193329.X

    申请日:2020-03-18

    Inventor: 刘宇鹏 张晓晨

    Abstract: 基于深度神经网络的社交文本依存句法分析系统,涉及计算机信息处理技术领域,针对现有技术中社交文本数据稀疏的问题,包括:社交文本爬取模块、预处理模块、基双线性注意力模块、栈式双线性注意力模块和联合解码和训练模块;所述社交文本爬取模块用于从社交媒体网站上爬取社交文本;所述预处理模块用于对获得的社交文本进行过滤处理,以及初始化词向量的生成;所述基双线性注意力模块用于利用正规文本进行预训练;所述栈式双线性注意力模块用于对社交文本进行预测;所述联合解码和训练模块用于对栈式双线性注意力模块进行计算经验风险函数,并进行反向传播梯度调节参数,拟合训练函数,最后利用GPU并行计算加速模型训练。

    一种基于深度学习的评论推荐系统及方法

    公开(公告)号:CN111368197B

    公开(公告)日:2022-05-27

    申请号:CN202010144247.6

    申请日:2020-03-04

    Inventor: 刘宇鹏 张晓晨

    Abstract: 一种基于深度学习的评论推荐系统及方法,属于信息传播技术领域。主要为了解决现有推荐系统只给出推荐评分从而存在推荐解释能力差的问题。本发明所述系统使用字符和词级双向循环神经网络获取评论文本特征表示;使用卷积神经网络获取图像特征;使用分解机神经网络获得属性特征表示;使用记忆机制解决推荐系统中用户和产品的冷启动问题。使用双线性张量机制获得用户和产品间的关系共同生成评分和评论。主要用于信息传播中的评论推荐。

    一种基于高阶连接图的协同过滤推荐算法

    公开(公告)号:CN112650944A

    公开(公告)日:2021-04-13

    申请号:CN202011591771.4

    申请日:2020-12-29

    Abstract: 本发明涉及一种基于高阶连接图的协同过滤推荐算法,属于推荐算法和推荐系统技术领域,本发明旨在缓解传统推荐算法在实际应用中的冷启动和数据稀疏的问题。针对此问题,本文引入了高阶连接图,通过对多用户多项目多关系进行建立统一的异构图,挖掘用户与用户、用户与项目和项目与项目之间的高阶关系,减缓数据稀疏性和冷启动对推荐结果的影响。本发明中,高阶连接图是一个异构图,其中节点充当实体,边表示实体之间的关系。项目及其属性可以映射到高阶连接图中以了解项目之间的高阶连接性。而且,用户和用户方信息也可以集成到图中,从而可以更准确地捕获用户与项目之间的关系以及用户的喜好。

    一种基于量子启发的多任务多模态微表情识别系统

    公开(公告)号:CN114842533B

    公开(公告)日:2024-07-02

    申请号:CN202210476248.X

    申请日:2022-04-29

    Inventor: 刘宇鹏 冯贤杰

    Abstract: 一种基于量子启发的多任务多模态微表情识别系统,它属于微表情识别技术领域。本发明解决了现有方法不能从视频中识别出多模态信息,导致采用现有方法对微表情识别的准确率低的问题。本发明提出基于文本特征向量、人脸特征向量和语音特征向量引入每种模态的上下文注意力权重,有助于学习文本、人脸和音频的上下文信息,同时捕捉与情感密切相关的特征。设计的量子启发Attention机制利用交互注意力将其中一个模态的信息关联到另一个模态,整合不同模态信息,使每个单独模态可以拥有其他模态的信息,获得更丰富的特征。通过对多模态信息进行获取和处理,可以提高对微表情识别的准确率。本发明方法可以应用于微表情识别。

    一种基于多尺度特征融合和迁移学习的轴承故障诊断方法

    公开(公告)号:CN116383757B

    公开(公告)日:2023-09-05

    申请号:CN202310223713.3

    申请日:2023-03-09

    Abstract: 本发明公开了一种基于多尺度特征融合和迁移学习的轴承故障诊断方法,所述包括如下步骤:步骤1:在多尺度特征融合层中使用不同尺度的三个卷积核来捕获互补和丰富的诊断信息;步骤2:将多尺度振动信号的采样点分组为小的标记块,每个标记块表示多尺度信号中的语义概念,然后通过展平转换成序列,为了保留信号的位置信息,使用线性嵌入层投影到补丁嵌入,生成具有标记的嵌入序列;步骤3:将嵌入序列馈送到TransformerEncoder层以生成特征序列;步骤4:将特征序列输入到对抗生成网络中,进行基于Wasserstein距离度量的对抗学习。本发明解决了滚动轴承特征提取不充分以及故障诊断不准确、工况下存在过拟合的问题。

Patent Agency Ranking