公开(公告)号：CN119918589A

公开(公告)日：2025-05-02

申请号：CN202411996345.7

申请日：2024-12-31

Applicant: 宜宾电子科技大学研究院 ,  宜宾市公安局

Inventor： 兰亚军 ,  邓媛丹 ,  陈圩钦 ,  罗军 ,  陈旺 ,  陈波

IPC: G06N3/0464 ,  G06N3/048 ,  G06N3/084 ,  G06V10/82 ,  G06V10/764

Abstract: 本发明提出跨范围的深度神经网络参数混合量化方法，属于量化技术领域，以解决现有技术中的量化方法会使得模型的性能显著下降的问题，包括：步骤1：在深度神经网络模型训练的过程中，通过PACT量化方法对深度神经网络进行激活量化；步骤2：在神经网络模型训练完成之后，使用优化后的LSQ量化方法对神经网络模型的权值进行量化，并且对于量化过程中超过量化范围的数值进行筛选并量化，保留了这部分数值的信息。本发明中，分别对激活值和权值使用不同的量化方法，充分考虑网络中不同输出层的作用。