Invention Grant
- Patent Title: 数据处理方法以及装置、文本处理方法以及装置
-
Application No.: CN202210436919.XApplication Date: 2022-04-25
-
Publication No.: CN114548047BPublication Date: 2022-09-23
- Inventor: 万宇 , 杨宝嵩 , 刘大一恒 , 张海波 , 陈博兴 , 谢军
- Applicant: 阿里巴巴达摩院(杭州)科技有限公司
- Applicant Address: 浙江省杭州市余杭区五常街道文一西路969号3幢5层516室
- Assignee: 阿里巴巴达摩院(杭州)科技有限公司
- Current Assignee: 阿里巴巴达摩院(杭州)科技有限公司
- Current Assignee Address: 浙江省杭州市余杭区五常街道文一西路969号3幢5层516室
- Agency: 北京智信禾专利代理有限公司
- Agent 刘晓楠
- Main IPC: G06F40/151
- IPC: G06F40/151

Abstract:
本说明书实施例提供数据处理方法以及装置、文本处理方法以及装置,其中所述数据处理方法应用于文本处理模型的注意力层,包括:接收第一文本矩阵和第二文本矩阵;对所述第一文本矩阵和所述第二文本矩阵进行离散化处理,获得第一离散文本矩阵和第二离散文本矩阵;提取所述第一离散文本矩阵和所述第二离散文本矩阵的特征信息,生成目标查询矩阵和目标键值矩阵;基于所述目标查询矩阵和所述目标键值矩阵计算矩阵距离,基于所述矩阵距离确定所述第一文本矩阵和所述第二文本矩阵之间的注意力值,通过减少乘法操作,降低了耗能较高的运算方式,也提高了文本处理的场景下模型的处理性能。
Public/Granted literature
- CN114548047A 数据处理方法以及装置、文本处理方法以及装置 Public/Granted day:2022-05-27
Information query