用于智能处理器的指令执行方法、装置及电子设备

    公开(公告)号:CN111831339A

    公开(公告)日:2020-10-27

    申请号:CN202010688860.4

    申请日:2020-07-16

    Abstract: 本公开提供一种用于智能处理器的指令执行方法及装置,方法包括:指令译码,将执行分形运算的串行分解子指令译码为本地指令及分形运算指令;数据装载,将分形运算所需数据从外部存储单元读取至智能处理器的本地存储单元;操作执行,根据分形运算指令对数据完成分形运算;规约执行,根据本地指令对分形运算的结果进行规约运算;数据写回,将本地存储器中存储的规约运算结果读取至外部存储器;指令译码、数据装载、操作执行、规约执行及数据写回按照流水线方式执行。该方法可以在任意时将全部层次上的全部模块调动起来,提供了智能处理器的数据吞吐率,从而提高了智能处理器的执行效率。

    大模型推理芯片的验证方法、装置、存储介质

    公开(公告)号:CN119623377A

    公开(公告)日:2025-03-14

    申请号:CN202411790989.0

    申请日:2024-12-06

    Abstract: 本发明提出一种大模型推理芯片的验证方法、装置、存储介质,该方法包含:根据大模型推理芯片的设计文档搭建模拟器核心状态机,并基于状态机搭建大模型推理芯片的模拟器;抓取大模型推理芯片的模型推理算法各步骤的数据流踪迹,获取踪迹文件;利用模拟器模拟推理过程,利用权重类型文件提供模型参数,利用激活类型文件比对模型推理算法执行过程中在相同输入下运算得到的激活数据,验证数据流踪迹的正确性;若数据流踪迹比对成功,抓取符合硬件行为仿真验证格式要求的踪迹文件,得到筛选后的跟踪文件;利用筛选后的跟踪文件作为金标准,对大模型推理芯片进行验证。该方法提高了对大模型推理芯片行为的模拟效果,提高了验证效率。

    用于智能处理器的指令执行方法、装置及电子设备

    公开(公告)号:CN111831339B

    公开(公告)日:2024-04-02

    申请号:CN202010688860.4

    申请日:2020-07-16

    Abstract: 本公开提供一种用于智能处理器的指令执行方法及装置,方法包括:指令译码,将执行分形运算的串行分解子指令译码为本地指令及分形运算指令;数据装载,将分形运算所需数据从外部存储单元读取至智能处理器的本地存储单元;操作执行,根据分形运算指令对数据完成分形运算;规约执行,根据本地指令对分形运算的结果进行规约运算;数据写回,将本地存储器中存储的规约运算结果读取至外部存储器;指令译码、数据装载、操作执行、规约执行及数据写回按照流水线方式执行。该方法可以在任意时将全部层次上的全部模块调动起来,提供了智能处理器的数据吞吐率,从而提高了智能处理器的执行效率。

    用于智能处理器的内存管理装置、方法及电子设备

    公开(公告)号:CN111831582B

    公开(公告)日:2024-03-29

    申请号:CN202010689148.6

    申请日:2020-07-16

    Abstract: 本公开提供一种用于智能处理器的内存管理装置及方法,装置包括:循环内存段,包括第一内存区域、第二内存区域及第三内存区域,分别用于所述智能处理器进行运算过程中的分形运算、规约运算、数据装载及写回时调用;静态内存段,包括第四内存区域及第五内存区域,用于存储所述智能处理器进行运算时输入的分形指令。基于指令执行生命周期的差别,将智能处理器控制系统内存进行分类管理,可提高智能处理器的执行效率,并且,内存管理装置中增加张量置换单元可以进一步显著改善智能处理器的执行效率,同时数据一致性也得以维护。

    用于智能处理器的指令分解方法、装置及电子设备

    公开(公告)号:CN111831333A

    公开(公告)日:2020-10-27

    申请号:CN202010689147.1

    申请日:2020-07-16

    Abstract: 本公开提供一种用于智能处理器的指令分解方法、装置及电子设备,所述智能处理器根据分形指令进行分形运算,所述方法包括:确定对所述分形指令的操作数进行分解的维度的分解优先级;根据所述分解优先级选择当前分解的维度;在所述当前分解的维度上,对所述分形指令的操作数进行串行分解。该指令分解方法,能够在合理时间范围内找到最佳分解方案,依据最佳分解方案,串行分解器按照粒度循环输出指令模板,通过累加,计算分解出的子指令中各操作数的地址,从而提高分形运算的并行效率。

    用于分形智能处理器的分形可重配指令集

    公开(公告)号:CN111831331B

    公开(公告)日:2024-04-05

    申请号:CN202010688961.1

    申请日:2020-07-16

    Abstract: 本公开提供一种用于分形智能处理器的分形可重配指令集,该分形可重配指令集将本地指令或计算原语映射为用于分形运算的分形指令,该本地指令作用于向量数据或标量数据。该分形可重配指令集包括间接指令域。对应的,分形智能处理器的控制系统包括分解模块、降级模块及记录模块;分解模块用于对分形可重配指令集进行串行分解;降级模块用于对串行分解后的串行分解子指令进行降级;分解模块还用于对降级后的串行分解子指令进行并行分解。记录模块,用于在每一次串行分解之前,替换所间接指令域的值,以实现对分形可重配指令集的动态控制。该分形可重配指令抽象层次高,表达灵活性强,结合控制系统的硬件架构支持,可解决计算过程中的失效问题。

    分形计算智能处理器、分形计算智能处理方法

    公开(公告)号:CN111857834A

    公开(公告)日:2020-10-30

    申请号:CN202010689150.3

    申请日:2020-07-16

    Abstract: 本公开提供了一种分形计算智能处理器、分形计算智能处理方法,分形计算智能处理器包括:至少两个分形计算子单元,用于根据分形计算指令进行分形计算,其中,各个所述分形计算子单元的结构之间具备层次同性;所述分形计算子单元的数量根据执行的所述分形计算对应的程序设定;控制器,用于根据所述分形计算子单元的数量及硬件资源生成分形计算指令,并发送所述分形计算指令至所述分形计算子单元;存储器,用于存储所述分形计算所需数据及分形计算结果;规约运算器,用于根据规约运算指令对各个所述分形计算子单元的分形计算结果进行规约运算。本技术方案可实现串行编程、并行执行,从而解决通用领域并行编程难题。

Patent Agency Ranking