-
公开(公告)号:CN112417089B
公开(公告)日:2022-12-09
申请号:CN201910773587.2
申请日:2019-08-21
Applicant: 东北大学秦皇岛分校
IPC: G06F16/33 , G06F16/332 , G06N3/04 , G06N3/08
Abstract: 本发明涉及一种基于深度学习的高并行性阅读理解的方法,包括数据预处理,嵌入层,编码层,交互层,输出层。使用bert模型对预训练进行优化;使用Octave卷积替换原模型中的深度可分离卷积。本发明在原有的高并行机器阅读理解算法——QANet的基础上,改进其嵌入层和编码块的结构,将嵌入层的预训练模型改为BERT,并重构了整个编码块。在编码块中应用了多头自注意力机制,固定了编码块的卷积层的数量,并将本次设计的编码块内所需用到的所有卷积层都改为Octave卷积。并提出将参数量较少其计算较快的的深度可分离卷积应用于Octave卷积中,提升Octave卷积在提升速度的同时提升模型的泛化能力,并将之应用于机器阅读理解任务。
-
公开(公告)号:CN112417089A
公开(公告)日:2021-02-26
申请号:CN201910773587.2
申请日:2019-08-21
Applicant: 东北大学秦皇岛分校
IPC: G06F16/33 , G06F16/332 , G06N3/04 , G06N3/08
Abstract: 本发明涉及一种基于深度学习的高并行性阅读理解的方法,包括数据预处理,嵌入层,编码层,交互层,输出层。使用bert模型对预训练进行优化;使用Octave卷积替换原模型中的深度可分离卷积。本发明在原有的高并行机器阅读理解算法——QANet的基础上,改进其嵌入层和编码块的结构,将嵌入层的预训练模型改为BERT,并重构了整个编码块。在编码块中应用了多头自注意力机制,固定了编码块的卷积层的数量,并将本次设计的编码块内所需用到的所有卷积层都改为Octave卷积。并提出将参数量较少其计算较快的的深度可分离卷积应用于Octave卷积中,提升Octave卷积在提升速度的同时提升模型的泛化能力,并将之应用于机器阅读理解任务。
-
公开(公告)号:CN203384638U
公开(公告)日:2014-01-08
申请号:CN201320366083.7
申请日:2013-06-24
Applicant: 东北大学秦皇岛分校
Abstract: 本实用新型公开了基于有源电子标签的气瓶安全充装控制系统,包括:车载终端(1)和加气机终端(2);所述的车载终端(1)包括A无线通信模块(5)和串口通信模块(6),A无线通信模块(5)分别与串口通信模块(6)和加气机终端(2)连接。本实用新型通过将气瓶的标签信息存储在车载终端的无线通信模块中,当车辆进行加气时,直接通过车载终端将气瓶的标签信息发送到加气机终端,从而实现了全自动读取气瓶电子标签的目的,省去了工作人员进行手动读取和贴换标签的麻烦,减少了工作量,同时节约了系统的成本。
-
公开(公告)号:CN203287909U
公开(公告)日:2013-11-13
申请号:CN201320364117.9
申请日:2013-06-24
Applicant: 东北大学秦皇岛分校
Abstract: 本实用新型公开了基于有源电子标签及IC卡的气瓶安全充装控制系统,包括:车载终端(1)、加气机终端(2)和IC卡(14);所述的车载终端(1)包括A无线通信模块(5)和串口通信模块(6),A无线通信模块(5)分别与串口通信模块(6)和加气机终端(2)连接;所述的加气机终端(2)包括IC读卡器(15),IC读卡器(15)与IC卡(14)连接。本实用新型通过将气瓶的标签信息存储在车载终端的无线通信模块中,当车辆进行加气时,直接通过车载终端将气瓶的标签信息发送到加气机终端,从而实现了全自动读取气瓶电子标签的目的,节约了系统的成本。此外,通过设置IC卡及IC读卡器,可以有效防止司机之间交换IC卡。
-
-
-