Patent search ap:("中国科学院计算技术研究所") AND inv:"马志宏" Page 1

1.

发明公开
基于大语言模型的旋转位置编码的编码方法及装置审中-实审

公开(公告)号：CN119622156A

公开(公告)日：2025-03-14

申请号：CN202411792329.6

申请日：2024-12-06

Applicant: 中国科学院计算技术研究所

Inventor： 郝一帆 , 马志宏 , 蒋东辰 , 赵永威 , 郭崎 , 杜子东 , 陈云霁

IPC: G06F17/10 , G06F17/16

Abstract: 本发明提供了一种基于大语言模型的旋转位置编码的编码方法，包括：通过预定的迭代计算公式对三角函数进行迭代计算，通过上一轮三角函数值得到本轮三角函数值；获取至少一个输入向量，将所述输入向量和所述本轮三角函数值进行逐元素乘加运算，得到旋转位置编码的向量编码。本发明还提供一种基于大语言模型的旋转位置编码的编码装置、存储介质及电子设备。借此，本发明实现顾计算精度、计算效率与硬件开销的平衡，并显著降低片上存储需求，从而为大语言模型的加速提供有力支持。

Patent Agency Ranking