基于token融合的大规模语言模型推理优化方法

    公开(公告)号:CN118761468A

    公开(公告)日:2024-10-11

    申请号:CN202410750336.3

    申请日:2024-06-12

    Applicant: 南开大学

    Abstract: 本发明公开了一种基于token融合的大规模语言模型推理优化方法,经过分词器预处理后的文本序列进入嵌入层进行编码,生成词向量和位置向量,将词向量和位置向量相加得到隐藏状态作为Transformer模块的输入矩阵;针对大规模语言模型逐层进行MHA模块的计算、token分组、token融合、MLP模块的计算和token复原操作;重复上述步骤直至大规模语言模型的最后一层;最后一层生成的隐藏状态进入尾接线性层计算,输出词表中各词汇的概率。本发明使用剪枝方法对LLM进行压缩,主要聚焦于如何降低大语言模型的推理延迟。降低推理延迟需要使用模型压缩技术对大语言模型进行压缩,减少模型推理的计算量从而降低推理延迟,加速推理过程,同时还可以保证尽量小的精度损失。

    一种偏振膜打印机
    32.
    发明公开

    公开(公告)号:CN118544702A

    公开(公告)日:2024-08-27

    申请号:CN202410872847.2

    申请日:2024-07-01

    Applicant: 南开大学

    Abstract: 本发明属于信息安全技术领域,更具体地是涉及一种偏振膜打印机,可通过外调制的脉冲光纤激光器输出线偏振光并通过,由光纤引出的特制激光头通过高精度二维线性位移平台在样本台上对特制的载体实现偏振编码打印。采用一个外调制的脉冲光纤激光器来输出线偏振光,输出光经过保偏光纤连接到法拉第磁致旋光管来实现偏振态的控制,之后法拉第磁致旋光管再衔接一根保偏光纤将光引到特制打印激光头。特制打印激光头即可在高精度二维线性位移平台的协助以及外接电脑的调控下在样本台上对特制的密文载体实现偏振编码打印。

    太赫兹微结构双芯光纤超灵敏微流体传感器

    公开(公告)号:CN110501308B

    公开(公告)日:2024-07-12

    申请号:CN201910923078.3

    申请日:2019-09-27

    Applicant: 南开大学

    Abstract: 本发明提供了一种基于太赫兹微结构纤芯光子晶体光纤的宽带、超灵敏微流体传感器。器件采用双芯光子晶体光纤设计,由包层、左右两纤芯和涂覆层组成。光纤基底材料采用环烯烃类聚合物(TOPAS);包层为三角晶格排列,具有六方对称性的圆形空气孔阵列;左芯采用等差分层微结构,用于增大左芯的模式双折射,同时改变基模色散曲线的斜率;右芯由圆形空气孔内填充待测量液体形成。理论研究表明,在0.5‑1.5THz频率范围内,光纤都能够实现精确的折射率传感,器件可检测折射率变化范围为0.019。在1THz,器件的折射率灵敏度达到51.22THz/RIU,优于以往研究结果。本发明利用太赫兹波的宽带特性和双芯光纤基模的交点耦合效应,构建了一个宽带、超灵敏的微流体折射率传感器。在对于传感和测量有高精度要求的生物、化学、医药等领域有非常广阔的应用前景。

    一种基于游标效应的光纤内部微流的折射率传感器

    公开(公告)号:CN118225734A

    公开(公告)日:2024-06-21

    申请号:CN202410460433.9

    申请日:2024-04-17

    Applicant: 南开大学

    Abstract: 本发明属于光纤传感技术领域,具体涉及一种基于游标效应的光纤内部微流的折射率传感器。其结构由超连续谱光源1、入射单模光纤2、光纤环行器3、偏孔微结构光纤内部微流控传感单元4、废液池5、微流泵6、光谱分析仪7组成。所述偏孔微结构光纤内部微流控传感单元待测液体由大孔径空心光纤11泵入,C型光纤9流出。该微流控传感器利用偏孔微结构光纤独特的结构实现光纤内部液体微流,通过光纤内部光物质的相互作用实现对折射率的探测。该传感器具有集成度高、响应速度快、灵敏度高等特点,可以将待测液体泵入传感器内部并进行精确的控制。这种控制方式可以确保待测液体的流量和流速稳定,从而提高了测试的准确性和重复性。

    一种基于放电退火型MXene的光纤水体微塑料传感器

    公开(公告)号:CN117871432A

    公开(公告)日:2024-04-12

    申请号:CN202410068970.9

    申请日:2024-01-17

    Applicant: 南开大学

    Abstract: 本发明提供了一种基于放电退火型MXene的光纤水体微塑料传感器,一种基于放电退火型MXene的光纤微塑料传感器由宽带光源、微光纤结构和光谱仪依次组成,所述微光纤结构由第一单模光纤、第一多模光纤、D型少模光纤、第二多模光纤和第二单模光纤依次连接而成,所述微光纤结构为一种马赫曾德尔型光纤干涉结构。在D型少模光纤的表面通过光吸附上一层均匀的MXene纳米片颗粒,并通过熔接机放电退火,改善材料性质,形成能够特异性吸附微塑料颗粒的纳米片状膜。

    一种基于多芯环形光子灯笼的模分复用器

    公开(公告)号:CN113568089B

    公开(公告)日:2023-02-24

    申请号:CN202110767149.2

    申请日:2021-07-07

    Applicant: 南开大学

    Abstract: 一种基于多芯环形光子灯笼的模分复用器,其输入端横截面包括低掺材料区(1),环形内包层(2),外包层(3)和等间隔分布在内包层(2)内的m个单模或少模纤芯(4),其中m=2N‑1,N为大于1的正整数。纤芯分为N组,除复用基模的纤芯1单独为一组外,其余纤芯每两个为一组,且参数完全相同,沿着光子灯笼中心与纤芯1之间的连线呈轴对称分布。所有成对的纤芯中,基模有效模式折射率越大的纤芯,离纤芯1的距离越远,在整个内包层(2)中呈倒序排布。多芯环形光子灯笼沿轴向经长度为L的绝热拉锥后,过渡为与少模环芯光纤参数相匹配的输出端(5),实现从m个纤芯中输入的基模高效率地转换为环芯传输光纤中相对应的基模和N‑1组高阶模式。

    一种无机械结构的光束漂移补偿装置及其实现方法

    公开(公告)号:CN112596252B

    公开(公告)日:2023-02-24

    申请号:CN202011604428.9

    申请日:2020-12-30

    Applicant: 南开大学

    Abstract: 本发明公开了一种无机械结构的光束漂移补偿装置及其实现方法,该方法利用探针结构光感知、可编程相位全息图、以及波长相关、偏振相关的液晶光调制,实现光束漂移补偿。该装置包括二向色镜、合束器、空间光调制器、CCD相机、计算机等。其中合束器/二向色镜用于将信号光与信标光共轴合束,第一空间光调制器用于仅调制信标光生成花瓣状沿角向分布的探针结构光,并由CCD相机记录,实现漂移量矢量感知并发送至计算机,由计算机同步控制第一空间光调制器和第二空间光调制器相位全息图中心相对位置和闪耀光栅周期,实现光束漂移补偿。本发明无需机械位移驱动装置,大大提高了补偿精度、响应速度和寿命,是自由空间光通信光束漂移补偿的可靠方案。

    一种混合集成的电光调制衍射光栅滤波装置

    公开(公告)号:CN114690455A

    公开(公告)日:2022-07-01

    申请号:CN202210453631.3

    申请日:2022-04-27

    Abstract: 本发明属于电光调制器件领域。更具体地是,涉及一种光纤和铌酸锂混合集成的衍射光栅滤波装置。铌酸锂薄膜结构附着于光纤截面,在铌酸锂薄膜两侧制备电极结构,同时在铌酸锂薄膜上蚀刻衍射光栅结构,利用铌酸锂晶体的电光效应和衍射光栅的衍射效应,实现光学滤波功能。本发明首次提出将铌酸锂薄膜集成于光纤端面,利用铌酸锂晶体的电光效应,可以实现对衍射光栅的衍射波长(反射/透射)的高速电控调谐。本发明克服了光纤结构与集成光波导耦合困难的难题。

    一种海水微塑料颗粒污染物检测仪及检测方法

    公开(公告)号:CN114397232A

    公开(公告)日:2022-04-26

    申请号:CN202210299034.X

    申请日:2022-03-25

    Applicant: 南开大学

    Abstract: 本发明提供了一种海水微塑料颗粒污染物检测仪及检测方法,一种海水微塑料颗粒污染物检测仪,包括流动系统、激光扫描系统和信息收集处理系统;所述流动系统用于实时提取海水微塑料颗粒污染物,包括依次连接的海水泵和微流管;所述激光扫描系统包括激光光源、光环行器和衍射系统,所述激光光源产生的宽带脉冲光对微流管内携带微塑料颗粒污染物的海水进行一维线扫描并形成脉冲光反射谱;所述衍射系统用于对所述宽带脉冲光进行空间分散并聚焦到所述微流管;所述光环行器用于将宽带脉冲光连接至衍射系统,以及将获得的脉冲光反射谱连接进入所述信息收集处理系统;以实现对海水微塑料颗粒污染物质量浓度和粒径分布的读取。

Patent Agency Ranking