-
公开(公告)号:CN110874627B
公开(公告)日:2024-06-28
申请号:CN201811034336.4
申请日:2018-09-04
Applicant: 华为技术有限公司
IPC: G06N3/0495 , G06N3/0464 , G06V10/82 , G06V10/762 , G06V10/764
Abstract: 本申请公开了一种数据处理方法、数据处理装置及计算机可读介质,该方法包括:将待处理的数据输入到目标网络;所述目标网络为包含至少一个卷积层的神经网络,一个参数集合为计算特征图中的一个点所用到的卷积核和偏置的集合,所述目标网络中的第一参数集合和第二参数集合为同一卷积层中计算特征图的不同点所用到的卷积核和偏置的集合,所述第一参数集合和所述第二参数集合包含的参数均为量化后的参数且对应不同的量化系数,所述目标网络用于对输入数据进行目标处理;通过所述目标网络对所述待处理的数据进行所述目标处理,得到输出结果;可以大大提高目标处理的精度,并节省计算时间。
-
公开(公告)号:CN110598839A
公开(公告)日:2019-12-20
申请号:CN201810603231.X
申请日:2018-06-12
Applicant: 华为技术有限公司
IPC: G06N3/04
Abstract: 本申请提供了一种卷积神经网络系统和卷积神经网络量化的方法,该系统包括:量化模块,用于对该系统的第i层卷积层的输入数据、该第i层卷积层的权重以及偏置分别进行量化,i为正整数;卷积模块,用于对量化后的该第i层卷积层的输入数据、量化后的该权重以及量化后的该偏置进行卷积计算,得到该第i层卷积层的卷积结果。本申请提供的卷积神经网络系统,通过对卷积层中需要量化的卷积层的权重、偏置以及输入该卷积层的输入数据进行量化,利用量化后的输入数据、量化后的权重以及量化后的偏置进行卷积计算,得到每一层卷积层的计算结果。降低卷积神经网络的计算量,提高了卷积神经网络量化的精度。
-
公开(公告)号:CN110874627A
公开(公告)日:2020-03-10
申请号:CN201811034336.4
申请日:2018-09-04
Applicant: 华为技术有限公司
Abstract: 本申请公开了一种数据处理方法、数据处理装置及计算机可读介质,该方法包括:将待处理的数据输入到目标网络;所述目标网络为包含至少一个卷积层的神经网络,一个参数集合为计算特征图中的一个点所用到的卷积核和偏置的集合,所述目标网络中的第一参数集合和第二参数集合为同一卷积层中计算特征图的不同点所用到的卷积核和偏置的集合,所述第一参数集合和所述第二参数集合包含的参数均为量化后的参数且对应不同的量化系数,所述目标网络用于对输入数据进行目标处理;通过所述目标网络对所述待处理的数据进行所述目标处理,得到输出结果;可以大大提高目标处理的精度,并节省计算时间。
-
-