-
公开(公告)号:CN115062793A
公开(公告)日:2022-09-16
申请号:CN202210753273.8
申请日:2022-06-28
Applicant: 杭州海康威视数字技术股份有限公司
Abstract: 本申请提供一种网络模型的训练方法、装置及设备,该方法包括:获取网络层对应的浮点型激活梯度值,对浮点型激活梯度值进行量化,得到定点型激活梯度值和激活值量化超参;基于定点型激活梯度值对网络层的初始模型权重进行调整,将调整后的模型权重更新为所述网络层的初始模型权重;若所述网络层不是首个网络层,则对网络层的初始模型权重进行量化,得到反向定点型权重和反向权重值量化超参;基于所述定点型激活梯度值、所述反向定点型权重、所述激活值量化超参和所述反向权重值量化超参,确定所述网络层的前一个网络层对应的浮点型激活梯度值。通过本申请的技术方案,可以减轻运算复杂度,运算量较小,资源消耗较小,能够对训练过程进行加速。
-
公开(公告)号:CN114897164A
公开(公告)日:2022-08-12
申请号:CN202210615980.0
申请日:2022-05-31
Applicant: 杭州海康威视数字技术股份有限公司
IPC: G06N3/08 , G06N3/04 , G06V10/764 , G06V10/82
Abstract: 本申请提供一种神经网络模型裁剪方法、装置、电子设备及存储介质,该方法包括:依据待裁剪神经网络模型的结构特性,将所述待裁剪神经网络模型划分为多个结构分组;依据对所述待裁剪神经网络模型进行裁剪前后的损失函数变化,确定对所述多个结构分组中各结构分组进行裁剪的目标裁剪率;其中,所述损失函数变化依据第一因子和第二因子确定,所述第一因子用于表征各结构分组中各个权重的重要性,所述第二因子用于表征不同结构分组之间的相互作用;依据所述目标裁剪率,分别对各结构分组进行裁剪,得到裁剪后的神经网络模型。该方法可以在较小性能损失的情况下加速压缩神经网络模型。
-
公开(公告)号:CN114202052A
公开(公告)日:2022-03-18
申请号:CN202010911838.1
申请日:2020-09-02
Applicant: 杭州海康威视数字技术股份有限公司
Abstract: 本发明提供一种神经网络的训练方法、装置及设备、存储介质,可更好地保证结果的精度与特征图的稀疏度。该方法包括:将样本数据输入至第一神经网络中,得到第一神经网络输出的预测标签、以及第一神经网络的至少一个指定处理层输出的特征图,特征图是在第一神经网络确定预测标签的过程中输出的,特征图包含多个特征值;依据预测标签与样本数据对应的样本标签并采用预设的损失函数确定损失值,损失值用于表征预测标签与样本标签之间的差异;依据特征图确定用于表征特征图的稀疏度的稀疏度值;依据损失值与稀疏度值确定用于优化第一神经网络的优化参数值;依据优化参数值优化第一神经网络得到第二神经网络。
-
公开(公告)号:CN113869491A
公开(公告)日:2021-12-31
申请号:CN202111075279.6
申请日:2021-09-14
Applicant: 杭州海康威视数字技术股份有限公司
Abstract: 本申请提供一种网络模型确定方法、装置、电子设备及可读存储介质,该方法包括:依据预设搜索空间构建超网络;依据所述超网络,分别训练得到浮点超网络、浮点比特超网络、N1/N2比特超网络;其中,N1、N2为正整数;依据所述浮点超网络、浮点比特超网络、N1/N2比特超网络,进行模型结构和混合比特联合搜索,确定最终模型结构和量化比特。该方法可以在优化所确定的最终网络模型的性能的情况下,减少搜索空间,提高搜索效率。
-
公开(公告)号:CN111767935A
公开(公告)日:2020-10-13
申请号:CN201911056322.7
申请日:2019-10-31
Applicant: 杭州海康威视数字技术股份有限公司
IPC: G06K9/62
Abstract: 本发明实施例提供了一种目标检测方法、装置及电子设备。其中,所述方法包括:获取待处理图像在多个降采样倍率下的多个初始图像特征;针对除目标降采样倍率外其他降采样倍率下的各个初始图像特征,将该初始图像特征缩放至所述目标降采样倍率,得到映射图像特征;融合所述目标降采样倍率下的初始图像特征和各个所述映射图像特征,得到所述目标降采样倍率下的融合图像特征;将所述目标降采样倍率下的融合图像特征缩放至各个所述其他降采样倍率,得到各个所述其他降采样倍率下的融合图像特征;基于所述待处理图像在所述多个降采样倍率下的融合图像特征,对所述待处理图像进行目标检测。可以提高目标检测的准确性。
-
公开(公告)号:CN111753978A
公开(公告)日:2020-10-09
申请号:CN202010062755.X
申请日:2020-01-19
Applicant: 杭州海康威视数字技术股份有限公司
Abstract: 本申请提供一种前向耗时的确定方法、装置及设备,该方法包括:将待测神经网络划分为多个操作节点;从所述多个操作节点中选取至少一个操作节点作为目标操作节点;针对每个目标操作节点,确定与所述目标操作节点对应的操作节点集合,所述操作节点集合包括所述目标操作节点和所述目标操作节点的关联操作节点,所述关联操作节点为所述多个操作节点中除所述目标操作节点之外的操作节点;根据所述操作节点集合的信息获取所述目标操作节点的耗时;根据每个目标操作节点的耗时确定所述待测神经网络的前向耗时。通过本申请的技术方案,能够有效预测待测神经网络的前向耗时。
-
公开(公告)号:CN111311646A
公开(公告)日:2020-06-19
申请号:CN201811518482.4
申请日:2018-12-12
Applicant: 杭州海康威视数字技术股份有限公司
IPC: G06T7/269
Abstract: 本申请实施例提供了一种光流神经网络训练方法及装置。其中,方法包括:将样本图像帧和所述样本图像帧的相邻图像帧输入第一神经网络和第二神经网络,得到所述第一神经网络输出的第一稠密光流和所述第二神经网络输出的第二稠密光流,所述第一神经网络为预先经过训练的光流神经网络,所述第二神经网络为模型复杂度低于所述第一神经网络的光流神经网络;基于所述第一稠密光流与所述第二稠密光流之间的偏差,调整所述第二神经网络的网络参数。选用本申请实施例,由于第二神经网络能够学习到第一神经网络已经学习到的图像对到稠密光流的映射关系,可以使得第二神经网络的性能逼近于模型复杂度更高的第一神经网络。
-
公开(公告)号:CN119337045B
公开(公告)日:2025-04-01
申请号:CN202411873806.1
申请日:2024-12-18
Applicant: 杭州海康威视数字技术股份有限公司
IPC: G06F17/16 , G06F17/11 , G06F18/214
Abstract: 本申请实施例提供了一种模型量化方法、装置、电子设备及存储介质,涉及深度学习技术领域。方法包括:获取原始模型中待量化网络层的待量化权重矩阵;将待量化权重矩阵中各权重分为多个权重组;计算各权重组对应的第一模型损失;按照对应的第一模型损失从大到小的顺序确定当前待处理的权重组;以当前待处理的权重组对应的第二模型损失最小为优化目标,基于目标量化格式确定当前待处理的权重组的目标量化结果;按照对应的第一模型损失从大到小的顺序确定当前待处理的权重组,直至得到各权重组的目标量化结果;基于各权重组的目标量化结果得到量化后的目标模型。如此可以对原始模型进行量化,且量化后的目标模型的模型损失较小。
-
公开(公告)号:CN119450084A
公开(公告)日:2025-02-14
申请号:CN202411932643.X
申请日:2023-07-12
Applicant: 杭州海康威视数字技术股份有限公司
IPC: H04N19/91 , H04N19/124 , H04N19/176 , H04N19/42 , H04N19/44
Abstract: 本申请提供一种解码方法、装置及其设备,该方法包括:从当前图像块对应的码流中解码当前图像块对应的目标特征;基于目标特征确定目标解码网络的第一输入特征;获取目标解码网络的目标特征值量化位宽和目标特征值量化超参,基于目标特征值量化位宽和目标特征值量化超参将第一输入特征转换为第二输入特征;基于目标解码网络的定点型权重对第二输入特征进行处理,得到目标解码网络的输出特征;其中,定点型权重是基于目标权重量化位宽和目标权重量化超参确定;基于目标解码网络的输出特征确定当前图像块对应的重建图像块。通过本申请技术方案,能够在保证解码质量的前提下,降低解码计算量。
-
公开(公告)号:CN112102183B
公开(公告)日:2024-06-28
申请号:CN202010910413.9
申请日:2020-09-02
Applicant: 杭州海康威视数字技术股份有限公司
IPC: G06T5/60
Abstract: 本发明提供一种稀疏处理方法、装置及设备,可根据特征图确定稀疏参数,进而可避免或减少关键信息的损失。该方法包括:获得待处理的目标特征图,所述目标特征图包含多个特征值;将所述目标特征图输入至已训练的稀疏网络以得到稀疏特征图;其中,所述稀疏网络包括第一计算层和第二计算层,所述第一计算层用于依据所述目标特征图中的各特征值确定对应的稀疏参数并输出给所述第二计算层,所述第二计算层用于依据输入的所述稀疏参数对所述目标特征图中的特征值进行稀疏处理以得到所述稀疏特征图。
-
-
-
-
-
-
-
-
-