数据处理方法以及装置、文本处理方法以及装置
Abstract:
本说明书实施例提供数据处理方法以及装置、文本处理方法以及装置,其中所述数据处理方法应用于文本处理模型的注意力层,包括:接收第一文本矩阵和第二文本矩阵;对所述第一文本矩阵和所述第二文本矩阵进行离散化处理,获得第一离散文本矩阵和第二离散文本矩阵;提取所述第一离散文本矩阵和所述第二离散文本矩阵的特征信息,生成目标查询矩阵和目标键值矩阵;基于所述目标查询矩阵和所述目标键值矩阵计算矩阵距离,基于所述矩阵距离确定所述第一文本矩阵和所述第二文本矩阵之间的注意力值,通过减少乘法操作,降低了耗能较高的运算方式,也提高了文本处理的场景下模型的处理性能。
Public/Granted literature
Patent Agency Ranking
0/0