一种基于头部输出特征自适应匹配的知识蒸馏方法

    公开(公告)号:CN117152810A

    公开(公告)日:2023-12-01

    申请号:CN202311012547.9

    申请日:2023-08-11

    Abstract: 本发明公开了一种基于头部特征自适应匹配的知识蒸馏方法,对教师网络和学生网络的输出层特征进行排序和修剪处理,将注意力集中到修剪处理后得到的头部特征中,根据相应的排序方式计算头部蒸馏损失;再将头部特征中包含目标类信息的特征层修剪得到主体特征,在主体特征中进行自适应匹配,根据相应的排序方式计算自适应输出特征损失;利用总蒸馏损失促使学生网络学习主要输出特征层的类间相似度信息。本发明利用了非目标类知识的信息并且融合了自适应注意力匹配的方法,定位到含更多泛化信息的主体特征,自适应地提取到更有利于学生网络学习的分类信息,提升了学生网络对陌生数据集的适应性,同时也增强了模型的泛化性和鲁棒性。

    基于特征解耦学习的低曝光图像增强方法

    公开(公告)号:CN113689344B

    公开(公告)日:2022-05-27

    申请号:CN202110745105.X

    申请日:2021-06-30

    Abstract: 本发明公开了一种基于特征解耦学习的低曝光图像增强方法,使用正常曝光静脉图像和低曝光静脉图像训练特征解耦网络,迫使编码得到低曝光静脉图像的背景特征,再利用训练好的特征解耦网络和低曝光静脉图像训练图像增强网络,提取低曝光静脉图像的纹理特征,实现低曝光静脉图像的纹理特征和背景特征分离,并单独使用低曝光静脉图像的纹理特征重建增强的静脉图像。本发明提出一种基于特征解耦学习的低曝光图像增强方法,从两种图像的特点出发,引入对抗损失,将低曝光静脉图像纹理特征和背景分离,操纵特定的特征重建正常曝光的图像,对低曝光静脉图像实现有效增强。

    基于模态匹配的连续手语语句识别方法

    公开(公告)号:CN113609922A

    公开(公告)日:2021-11-05

    申请号:CN202110792080.9

    申请日:2021-07-13

    Abstract: 本发明公开了一种基于模态匹配的连续手语语句识别方法,将手语语句的彩色视频和光流图像序列的关键帧和目标词语片段序列作为输入,通过基于模态匹配的连续手语语句识别模型,将手语语句的彩色视频和光流图像序列的关键帧片段序列与语义匹配对齐,得到最终的语义序列。本发明公开了一种基于模态匹配的连续手语语句识别模型,用轻量的特征提取网络,减少其参数量,针对手语数据集进行任务特定性训练,在数据集中样本的标注较少的情况下对连续手语语句进行识别,减少了在传统手语识别方法中对人体姿势信息高度依赖的问题。

    一种基于头部输出特征自适应匹配的知识蒸馏方法

    公开(公告)号:CN117152810B

    公开(公告)日:2025-04-11

    申请号:CN202311012547.9

    申请日:2023-08-11

    Abstract: 本发明公开了一种基于头部特征自适应匹配的知识蒸馏方法,对教师网络和学生网络的输出层特征进行排序和修剪处理,将注意力集中到修剪处理后得到的头部特征中,根据相应的排序方式计算头部蒸馏损失;再将头部特征中包含目标类信息的特征层修剪得到主体特征,在主体特征中进行自适应匹配,根据相应的排序方式计算自适应输出特征损失;利用总蒸馏损失促使学生网络学习主要输出特征层的类间相似度信息。本发明利用了非目标类知识的信息并且融合了自适应注意力匹配的方法,定位到含更多泛化信息的主体特征,自适应地提取到更有利于学生网络学习的分类信息,提升了学生网络对陌生数据集的适应性,同时也增强了模型的泛化性和鲁棒性。

    基于类别统计驱动的伪标签自蒸馏语义分割方法

    公开(公告)号:CN116958548B

    公开(公告)日:2024-08-27

    申请号:CN202310902217.0

    申请日:2023-07-21

    Abstract: 本发明公开了一种基于类别统计驱动的伪标签自蒸馏语义分割方法,属于计算机图像处理技术,在训练过程中对教师模型语义类别概率信息进行统计,并根据概率分布特性将类别标签进行平滑处理,将平滑标签与教师模型输出语义类别概率信息的加权均值作为学生模型的监督信息,有效地提升了类别统计驱动下的伪标签自蒸馏语义分割的效果。本发明公开的基于类别统计驱动的伪标签自蒸馏语义分割方法,将经过平滑处理的标签与教师模型输出语义类别概率信息加权均值作为学生模型的监督信息,改善了在训练过程中标签硬化难以拟合以及人为平滑操作引入标签噪声的问题,解决了蒸馏过程中因教师模型类别预测错误导致学生网络知识学习受到噪声标签影响的问题。

    基于自适应掩码加权的投影式知识蒸馏方法

    公开(公告)号:CN117454971A

    公开(公告)日:2024-01-26

    申请号:CN202311530381.X

    申请日:2023-11-16

    Abstract: 本发明公开了一种基于自适应掩码加权的投影式知识蒸馏方法,首先构建基于学生网络的学生模块提取的特征的关系矩阵使其相邻像素间所包含信息更加丰富多样,其次基于学生网络的关系矩阵和特征图分别构建自适应掩码矩阵进行自适应掩码加权,再构建投影层并利用被掩码加权的特征在教师网络的引导下投影出完整的、逼近教师特征的特征,最后利用教师网络相应的特征层去监督学生网络相应的特征层并以此更新学生模型。本发明提高了学生网络模型对于所学到的丰富信息的表达能力,解决了由随机掩码学生特征和学生特征相邻像素感受野有限造成的学生网络表征能力受限、信息利用不足的问题,提升了知识蒸馏模型的鲁棒性和泛化能力。

    基于类别统计驱动的伪标签自蒸馏语义分割方法

    公开(公告)号:CN116958548A

    公开(公告)日:2023-10-27

    申请号:CN202310902217.0

    申请日:2023-07-21

    Abstract: 本发明公开了一种基于类别统计驱动的伪标签自蒸馏语义分割方法,属于计算机图像处理技术,在训练过程中对教师模型语义类别概率信息进行统计,并根据概率分布特性将类别标签进行平滑处理,将平滑标签与教师模型输出语义类别概率信息的加权均值作为学生模型的监督信息,有效地提升了类别统计驱动下的伪标签自蒸馏语义分割的效果。本发明公开的基于类别统计驱动的伪标签自蒸馏语义分割方法,将经过平滑处理的标签与教师模型输出语义类别概率信息加权均值作为学生模型的监督信息,改善了在训练过程中标签硬化难以拟合以及人为平滑操作引入标签噪声的问题,解决了蒸馏过程中因教师模型类别预测错误导致学生网络知识学习受到噪声标签影响的问题。

    一种基于跨域协同学习的图像去雨方法

    公开(公告)号:CN113450278A

    公开(公告)日:2021-09-28

    申请号:CN202110742059.8

    申请日:2021-06-30

    Abstract: 本发明公开了一种基于跨域协同学习的图像去雨方法,构建基于多尺度注意力残差模块的双分支图像去雨网络,通过面向合成领域的跨域协同学习策略,减少不同合成领域雨纹信息分布差异对于双分支图像去雨模型去雨效果的影响,通过面向真实领域的跨域学习策略,降低真实领域和合成领域雨纹信息分布差异对于双分支图像去雨模型去雨表现的影响。本发明提高了图像去雨模型对于不同领域样本雨纹信息的学习能力,减少了不同领域雨纹信息分布差异对于图像去雨模型去雨表现的影响,增强了图像去雨模型的鲁棒性和泛化能力。

    一种基于多模态特征融合与聚类的低照度场景解析方法

    公开(公告)号:CN119380057A

    公开(公告)日:2025-01-28

    申请号:CN202411351909.1

    申请日:2024-09-26

    Abstract: 本发明公开了一种基于多模态特征融合与聚类的低照度场景解析方法,属于人工智能技术,构建了基于Transformer的单分支的特征提取网络;构建多模态特征交互融合模块实现多模态特征交互与融合;构建多模态融合特征聚类模块对多模态交互融合后的特征进行特征聚类,利用不同特征之间的语义距离和空间距离完成聚类的同时实现对特征的下采样,缓解了结构化下采样中细节边缘信息丢失的问题;构建多尺度特征聚合解码模块,用于接收编码网络特征信息,并根据多尺度特征的语义距离划分每个特征像素的类别。本发明能够充分可见光与热图像信息,能够在多样复杂低照度场景下的无人系统场景解析以及导航中应用。

    一种基于跨域协同学习的图像去雨方法

    公开(公告)号:CN113450278B

    公开(公告)日:2022-02-18

    申请号:CN202110742059.8

    申请日:2021-06-30

    Abstract: 本发明公开了一种基于跨域协同学习的图像去雨方法,构建基于多尺度注意力残差模块的双分支图像去雨网络,通过面向合成领域的跨域协同学习策略,减少不同合成领域雨纹信息分布差异对于双分支图像去雨模型去雨效果的影响,通过面向真实领域的跨域学习策略,降低真实领域和合成领域雨纹信息分布差异对于双分支图像去雨模型去雨表现的影响。本发明提高了图像去雨模型对于不同领域样本雨纹信息的学习能力,减少了不同领域雨纹信息分布差异对于图像去雨模型去雨表现的影响,增强了图像去雨模型的鲁棒性和泛化能力。

Patent Agency Ranking