一种基于师生协同的知识蒸馏方法

    公开(公告)号:CN114611670A

    公开(公告)日:2022-06-10

    申请号:CN202210254811.9

    申请日:2022-03-15

    Abstract: 本发明涉及知识蒸馏技术领域,具体涉及一种基于师生协同的知识蒸馏方法,包括:构建经过预先训练的教师网络以及具有多层级的分支输出的学生网络;将训练数据分别输入教师网络和学生网络,得到教师网络输出的概率分布以及各个分支输出的概率分布和特征;计算各个分支的知识蒸馏损失和自蒸馏损失;然后通过各个分支的知识蒸馏损失和自蒸馏损失计算对应的整体损失函数,并更新学生网络的参数;对学生网络各个分支输出的概率分布进行融合,得到对应的最终概率分布;重复上述步骤,直至学生网络训练至收敛。本发明能够通过教师网络和学生网络自身来协同优化和训练学生网络,使得不增加教师网络的复杂度并能够基于学生网络的输出进行自监督和自学习。

    一种轴承磨损度检测机构

    公开(公告)号:CN222166560U

    公开(公告)日:2024-12-13

    申请号:CN202420649780.1

    申请日:2024-04-01

    Abstract: 本实用新型公开了一种轴承磨损度检测机构,具体涉及轴承检测技术领域,包括底座,底座的顶部固定连接有支撑架,支撑架的侧面贯穿转动连接有放置柱,放置柱的一端固定连接有电机一,固定盖,固定盖的底部设置有用于固定的移动机构,固定盖的一侧开设有固定槽,放置柱远离电机一的一端滑动连接于固定槽的内壁,支撑架的一侧固定连接有固定块二,固定块二的一侧固定连接有温度检测仪,固定盖的一侧贯穿固定连接有,解决了现有的温度检测操作一般是直接通过探头对旋转时的轴承进行检测作业,但是裸露在外界的轴承,极容易受到外界温度的影响,使得检测的温度数据精准度较低,从而会影响工作人员对轴承磨损程度的判断的问题。

Patent Agency Ranking