数据处理方法、数据处理装置及计算机可读介质

    公开(公告)号:CN110874627B

    公开(公告)日:2024-06-28

    申请号:CN201811034336.4

    申请日:2018-09-04

    Abstract: 本申请公开了一种数据处理方法、数据处理装置及计算机可读介质,该方法包括:将待处理的数据输入到目标网络;所述目标网络为包含至少一个卷积层的神经网络,一个参数集合为计算特征图中的一个点所用到的卷积核和偏置的集合,所述目标网络中的第一参数集合和第二参数集合为同一卷积层中计算特征图的不同点所用到的卷积核和偏置的集合,所述第一参数集合和所述第二参数集合包含的参数均为量化后的参数且对应不同的量化系数,所述目标网络用于对输入数据进行目标处理;通过所述目标网络对所述待处理的数据进行所述目标处理,得到输出结果;可以大大提高目标处理的精度,并节省计算时间。

    卷积神经网络系统和卷积神经网络量化的方法

    公开(公告)号:CN110598839A

    公开(公告)日:2019-12-20

    申请号:CN201810603231.X

    申请日:2018-06-12

    Abstract: 本申请提供了一种卷积神经网络系统和卷积神经网络量化的方法,该系统包括:量化模块,用于对该系统的第i层卷积层的输入数据、该第i层卷积层的权重以及偏置分别进行量化,i为正整数;卷积模块,用于对量化后的该第i层卷积层的输入数据、量化后的该权重以及量化后的该偏置进行卷积计算,得到该第i层卷积层的卷积结果。本申请提供的卷积神经网络系统,通过对卷积层中需要量化的卷积层的权重、偏置以及输入该卷积层的输入数据进行量化,利用量化后的输入数据、量化后的权重以及量化后的偏置进行卷积计算,得到每一层卷积层的计算结果。降低卷积神经网络的计算量,提高了卷积神经网络量化的精度。

    数据处理方法、数据处理装置及计算机可读介质

    公开(公告)号:CN110874627A

    公开(公告)日:2020-03-10

    申请号:CN201811034336.4

    申请日:2018-09-04

    Abstract: 本申请公开了一种数据处理方法、数据处理装置及计算机可读介质,该方法包括:将待处理的数据输入到目标网络;所述目标网络为包含至少一个卷积层的神经网络,一个参数集合为计算特征图中的一个点所用到的卷积核和偏置的集合,所述目标网络中的第一参数集合和第二参数集合为同一卷积层中计算特征图的不同点所用到的卷积核和偏置的集合,所述第一参数集合和所述第二参数集合包含的参数均为量化后的参数且对应不同的量化系数,所述目标网络用于对输入数据进行目标处理;通过所述目标网络对所述待处理的数据进行所述目标处理,得到输出结果;可以大大提高目标处理的精度,并节省计算时间。

    一种神经网络精度调整方法及装置

    公开(公告)号:CN110738315A

    公开(公告)日:2020-01-31

    申请号:CN201810792748.8

    申请日:2018-07-18

    Abstract: 本申请公开了一种神经网络精度调整方法及装置,用于在对神经网络进行量化的同时,保证神经网络的精度。在该方案中,计算机装置在对神经网络中的每个计算层进行量化处理后,还需要调整神经网络的模型,以保证该计算层量化后的神经网络的精度能够达到该计算层对应的目标精度。这样,该方法可以保证所有计算层进行量化处理后该神经网络的精度。

Patent Agency Ranking