-
公开(公告)号:CN109635109B
公开(公告)日:2022-12-16
申请号:CN201811430542.7
申请日:2018-11-28
Applicant: 华南理工大学
IPC: G06F16/35 , G06F40/211 , G06F40/253 , G06F40/289 , G06F40/30 , G06K9/62 , G06N3/04 , G06N3/08
Abstract: 本发明公开了一种基于LSTM并结合词性及多注意力机制的句子分类方法,包括步骤:在输入层中将每个句子转化成两个基于连续和稠密的语义词向量矩阵和词性词向量矩阵;在共享的双向LSTM层中分别学习句子中词或词性的上下文信息,并将每一步的学习结果进行串联后输出;在自注意力层中采用自注意力机制及点乘函数分别从语义词向量序列和词性词向量序列学习句子中各个位置上的重要局部特征,得到相应的语义注意力向量和词性注意力向量,并通过KL距离对它们进行约束;在合并层中利用得到的语义注意力向量和词性注意力向量对双向LSTM层的输出序列进行加权求和,得到句子的语义表征和词性表征,并得到最终的句子语义表示;最后通过MLP输出层进行预测和分类输出。
-
公开(公告)号:CN109062893B
公开(公告)日:2021-09-21
申请号:CN201810768223.0
申请日:2018-07-13
Applicant: 华南理工大学
IPC: G06F40/289 , G06F40/295 , G06N3/08
Abstract: 本发明公开了一种基于全文注意力机制的商品名称识别方法,包括:建立加入全文注意力机制的深度神经网络模型,在深度神经网络模型中加入全文注意力层,在全文注意力层当中,将全文的信息用词嵌入向量的方法来表示;接着,对于要标注的每一个词语,计算它们和全文注意力层词向量的相似性,从而让词语获得对全文的“注意力权重”,即让词语关注到文档的上下文信息,利用注意力权重和,计算出每一个词语的额外特征,用以进行商品名称的识别。本发明方法能够有效的从不规则的文本中提取出商品名,并解决了同一种商品在上下文识别不一致的问题,提高了识别的准确率。
-
公开(公告)号:CN109635109A
公开(公告)日:2019-04-16
申请号:CN201811430542.7
申请日:2018-11-28
Applicant: 华南理工大学
CPC classification number: G06F17/2785 , G06F17/271 , G06F17/274 , G06F17/2775 , G06K9/6273 , G06N3/0454 , G06N3/084
Abstract: 本发明公开了一种基于LSTM并结合词性及多注意力机制的句子分类方法,包括步骤:在输入层中将每个句子转化成两个基于连续和稠密的语义词向量矩阵和词性词向量矩阵;在共享的双向LSTM层中分别学习句子中词或词性的上下文信息,并将每一步的学习结果进行串联后输出;在自注意力层中采用自注意力机制及点乘函数分别从语义词向量序列和词性词向量序列学习句子中各个位置上的重要局部特征,得到相应的语义注意力向量和词性注意力向量,并通过KL距离对它们进行约束;在合并层中利用得到的语义注意力向量和词性注意力向量对双向LSTM层的输出序列进行加权求和,得到句子的语义表征和词性表征,并得到最终的句子语义表示;最后通过MLP输出层进行预测和分类输出。
-
公开(公告)号:CN109062893A
公开(公告)日:2018-12-21
申请号:CN201810768223.0
申请日:2018-07-13
Applicant: 华南理工大学
CPC classification number: G06F17/2775 , G06F17/278 , G06N3/084
Abstract: 本发明公开了一种基于全文注意力机制的商品名称识别方法,包括:建立加入全文注意力机制的深度神经网络模型,在深度神经网络模型中加入全文注意力层,在全文注意力层当中,将全文的信息用词嵌入向量的方法来表示;接着,对于要标注的每一个词语,计算它们和全文注意力层词向量的相似性,从而让词语获得对全文的“注意力权重”,即让词语关注到文档的上下文信息,利用注意力权重和,计算出每一个词语的额外特征,用以进行商品名称的识别。本发明方法能够有效的从不规则的文本中提取出商品名,并解决了同一种商品在上下文识别不一致的问题,提高了识别的准确率。
-
-
-
-