确定FL值的方法及装置
    1.
    发明授权

    公开(公告)号:CN111476362B

    公开(公告)日:2024-05-03

    申请号:CN201911294370.X

    申请日:2019-12-16

    Abstract: 本发明涉及确定FL值的方法及装置。一种确定FL值的方法,该FL值为与量化的值中所包含的LSB的大小相对应的FL参数,其特征在于,包括:步骤a,计算装置若获取到包含原始值的原始向量,则参照(i)BW值及(ii)各个FL候补值来在所述原始值适用量化运算,由此生成各个量化的向量;步骤b,所述计算装置对与各个所述量化的向量所包含的所述量化的值及所述原始向量所包含的所述原始值之间的各个差异有关的信息适用加权量化损失运算,由此生成与各个所述FL候补值相对应的加权量化损失值;以及步骤c,所述计算装置参照所述加权量化损失值,在所述FL候补值中确定所述FL值。

Patent Agency Ranking