用于AI加速器集成电路的矩阵乘法计算装置及AI加速器装置

    公开(公告)号:CN221960554U

    公开(公告)日:2024-11-05

    申请号:CN202322826485.7

    申请日:2023-10-20

    Abstract: 本实用新型涉及用于AI加速器集成电路的矩阵乘法计算装置及AI加速器装置。用于在计算加速器中压缩神经网络权重块的装置,提供了一种矩阵乘法计算装置。该装置包括存储器,存储器配置为以第一格式存储权重矩阵元素,第一格式包括比例因子和尾数块的列。第一寄存器配置为通过耦合到存储器的横杆设备接收每个权重矩阵列的比例因子,转换器配置为使用列的比例因子确定最大指数,并且第二寄存器配置为存储最大指数。此外,第一寄存器配置为接收列的尾数块,并且转换器配置为使用所有的比例因子和尾数块确定转换块。权重缓冲器接收转换块和最大指数作为第二格式的元素,第二格式被计算设备使用以确定矩阵乘法输出,这些输出被存储在输出缓冲器中。

    一种基于SCGD-YOLO网络的无人机视角下的小目标检测方法

    公开(公告)号:CN119919836A

    公开(公告)日:2025-05-02

    申请号:CN202510101054.5

    申请日:2025-01-22

    Abstract: 本发明公开了一种基于SCGD‑YOLO网络的无人机视角下的小目标检测方法,包括以下步骤:获取无人机视角下小目标的开源数据集,并将数据集划分为训练集、验证集和测试集,数据集包含十种类别,主要类别以小目标为主;并配置网络模型所需的网络环境;构建SCGD‑YOLO网络模型,SCGD‑YOLO网络模型包含骨干网络、颈部网络、检测头;将训练数据集的图片与标签送入构建的SCGD‑YOLO网络模型进行训练,并根据验证集的结果调整相应超参数获得最佳训练结果;最后将测试集中待检测的图片送入训练好的SCGD‑YOLO网络模型中进行小目标检测,并输出检测结果,本发明解决了无人机在高空拍摄时小目标分辨率较低、检测精度下降的问题,不仅提高了对小目标的检测精度,还降低了模型的参数量。

    一种基于在轨适配的大视场图像空间碎片检测方法

    公开(公告)号:CN119919648A

    公开(公告)日:2025-05-02

    申请号:CN202510413765.6

    申请日:2025-04-03

    Abstract: 本发明公开了一种基于在轨适配的大视场图像空间碎片检测方法,包括:获取待检测的大视场星空图像,将大视场星空图像输入到训练好的空间碎片检测模型中,得到针对大视场星空图像的目标检测结果;所述空间碎片检测模型包括耦合因素评估模块、稀疏混合专家处理模块、知识精确修正模块与检测结果输出模块;本发明通过多个模块的协同工作,利用多种不同层次的图像降质评估指标控制不同领域的专家模型以实现不同因素的有效应对,同时引入知识精确修正模块,实现更加精细的自适应处理。本发明显著提高了在复杂空间环境下的大视场探测图像的目标检测性能。

    一种用于边缘设备的大语言模型优化方法和系统

    公开(公告)号:CN119918622A

    公开(公告)日:2025-05-02

    申请号:CN202510416611.2

    申请日:2025-04-03

    Abstract: 本发明适用于大语言模型技术领域,尤其涉及一种用于边缘设备的大语言模型优化方法和系统,所述方法包括:构建边缘设备网络;对边缘设备进行划分,得到多个边缘设备集群,提取各个边缘设备的设备参数信息;进行剪枝处理,得到压缩模型,对边缘设备集群进行资源划分,得到固定资源和动态资源;对压缩模型进行拆分和加载,对数据处理任务进行处理,进行动态局域重复加载,完成对后续任务的处理。本发明根据不同的边缘设备进行不同比例的压缩,将压缩模型拆分后加载在各个边缘设备上,并通过边缘设备对部分压缩模型进行重复加载,以保证数据处理的均衡度,提高数据处理速度,使得性能较低的边缘设备也能够运行大语言模型。

    一种基于区块链的数据处理及数据分析系统及方法

    公开(公告)号:CN119918607A

    公开(公告)日:2025-05-02

    申请号:CN202411845983.9

    申请日:2024-12-16

    Inventor: 贺颂钧

    Abstract: 本发明公开了一种基于区块链的数据处理及数据分析系统及方法,包括如下步骤:S1:实时获取时序数据,针对所述时序数据进行数据预处理,得到训练样本;S2:将所述训练样本输入神经网络中进行训练,输出携带时序数据信息的卷积核;S3:构建剪枝模型,根据修剪规则对卷积核进行修剪,输出结果;S4:将输出的结果与所述时序数据对比,若正确,则修剪成功,若错误,重复步骤S2‑S4;本申请采用剪枝模型对神经网络中的数据进行压缩,因为剪枝模型可以同时减少数据的体积和数据的训练量,并且剪枝模型也更容易和其他数据压缩方法相结合,实现对时序数据的压缩,以实现减少时序数据的存储空间。

    一种基于CK-means++的稀疏注意力机制方法

    公开(公告)号:CN119918580A

    公开(公告)日:2025-05-02

    申请号:CN202510090129.4

    申请日:2025-01-21

    Abstract: 本发明提出了一种基于CK‑means++的稀疏注意力机制方法,运用于大语言模型训练时所需要针对稀疏注意力矩阵进行聚类的情况。本发明采用Canopy聚类和均值计方法对transformer注意力层的查询(Query)向量和键(Key)向量进行处理以确定聚类集群个数,根据集群个数采用轮盘法迭代计算确定各集群的初始中心点,然后依据聚类集群个数和各集群的初始中心点进行K‑means聚类收敛计算,最终求得与各查询(Query)向量相似度高的键(Key)向量,以此Query‑Key对计算注意力矩阵。本发明能自动计算集群个数和初始聚类中心点,缓解了聚类对人工选取这两个值的敏感问题,执行速度快,并且能避免因空间位置编码的各种组合而带来的大语言模型高复杂性,具有更好的灵活性、计算量小、鲁棒性强的优点。

Patent Agency Ranking