-
公开(公告)号:CN111858932B
公开(公告)日:2024-08-16
申请号:CN202010659948.3
申请日:2020-07-10
Applicant: 暨南大学
IPC: G06F16/35 , G06F40/151 , G06F40/242 , G06N3/0455 , G06N3/0499
Abstract: 本发明公开了一种基于Transformer的多重特征中英文情感分类方法及系统,该方法步骤包括:对给定的文本数据进行预处理,包括划分文本、构造词典、获取数字形式的文本表示;建立模型的编码器网络:将预处理后的文本数据输入模型编码器部分的神经网络,依次经过嵌入层、多重自我注意力层、前馈层,提取并输出每个词语基于多重自我注意力机制的向量表示;建立模型的解码器网络:以编码器网络的输出作为值项和键项的输入,以文本序列的上下文向量作为查询项的唯一输入,经过解码器的多重自我注意力层和前馈层,输出文本基于自我注意力机制的向量表示。本发明以Transformer模型为基础架构,丰富了模型的特征输入中包含的信息,挖掘模型在原先应用领域之外的潜能。
-
公开(公告)号:CN111858933B
公开(公告)日:2024-08-06
申请号:CN202010659957.2
申请日:2020-07-10
Applicant: 暨南大学
IPC: G06F16/35 , G06F40/211 , G06N3/0464
Abstract: 本发明公开了一种基于字符的层次化文本情感分析方法及系统,该方法步骤包括:对给定的文本数据进行预处理,包括设计字符集、划分文本中的句子、基于字符集得到数字形式的文本表示;建立字符级别的神经网络模型:将预处理后的文本数据输入字符级别的神经网络模型,依次经过模型嵌入层、卷积神经网络层和解码层,提取并输出文本中每个句子的特征向量;建立句子级别的神经网络模型:以字符级别网络的输出作为输入,依次经过循环神经网络层、注意力层和解码层,输出文本的情感分类的概率分布。本发明从字符级别对文本提取初始特征,句子级别网络既包含了时序信息,又能让网络倾向于对情感分析结果有利的句子,提高了模型的准确度和健壮性。
-
公开(公告)号:CN115391710A
公开(公告)日:2022-11-25
申请号:CN202211321735.5
申请日:2022-10-27
Applicant: 暨南大学
IPC: G06F16/958 , G06N3/04 , G06F16/35 , G06F16/36 , G06Q50/00
Abstract: 本发明实施例公开了一种基于图神经网络的社交媒体账号影响力评估方法及装置,该方法构建先构建知识图谱知识图谱和图神经网络,将图神经网络中的节点的特征向量替换为知识图谱的重要指数,并将节点聚合为聚合节点,采用注意力机制以及基于节点的重要指数计算节点对应的邻居的权重;计算图神经网络中每一个节点的中心性指数,并根据所述节点的中心性指数和重要指数计算该节点的最终预测分数。实施例将图神经网络和知识图谱进行关联,用知识图谱的节点重要性问题表示社交媒体账户的影响力,用知识图谱的节点重要性替代图神经网络的特征向量,能够灵活的利用知识图谱中包含的社交媒体信息,从已知的节点重要性学习到准确率高的评估方法。
-
公开(公告)号:CN111858932A
公开(公告)日:2020-10-30
申请号:CN202010659948.3
申请日:2020-07-10
Applicant: 暨南大学
IPC: G06F16/35 , G06F40/151 , G06F40/242 , G06N3/04
Abstract: 本发明公开了一种基于Transformer的多重特征中英文情感分类方法及系统,该方法步骤包括:对给定的文本数据进行预处理,包括划分文本、构造词典、获取数字形式的文本表示;建立模型的编码器网络:将预处理后的文本数据输入模型编码器部分的神经网络,依次经过嵌入层、多重自我注意力层、前馈层,提取并输出每个词语基于多重自我注意力机制的向量表示;建立模型的解码器网络:以编码器网络的输出作为值项和键项的输入,以文本序列的上下文向量作为查询项的唯一输入,经过解码器的多重自我注意力层和前馈层,输出文本基于自我注意力机制的向量表示。本发明以Transformer模型为基础架构,丰富了模型的特征输入中包含的信息,挖掘模型在原先应用领域之外的潜能。
-
公开(公告)号:CN111858933A
公开(公告)日:2020-10-30
申请号:CN202010659957.2
申请日:2020-07-10
Applicant: 暨南大学
IPC: G06F16/35 , G06F40/211 , G06N3/04
Abstract: 本发明公开了一种基于字符的层次化文本情感分析方法及系统,该方法步骤包括:对给定的文本数据进行预处理,包括设计字符集、划分文本中的句子、基于字符集得到数字形式的文本表示;建立字符级别的神经网络模型:将预处理后的文本数据输入字符级别的神经网络模型,依次经过模型嵌入层、卷积神经网络层和解码层,提取并输出文本中每个句子的特征向量;建立句子级别的神经网络模型:以字符级别网络的输出作为输入,依次经过循环神经网络层、注意力层和解码层,输出文本的情感分类的概率分布。本发明从字符级别对文本提取初始特征,句子级别网络既包含了时序信息,又能让网络倾向于对情感分析结果有利的句子,提高了模型的准确度和健壮性。
-
-
-
-