一种基于时序图Transformer的连续动态网络表征学习方法

    公开(公告)号:CN114118375B

    公开(公告)日:2024-05-10

    申请号:CN202111434187.2

    申请日:2021-11-29

    Applicant: 吉林大学

    Inventor: 王英 李莹姬 吴越

    Abstract: 本发明公开了一种基于时序图Transformer的连续动态网络表征学习方法,属于网络表征学习领域,包括:由基于连续动态系统的时序编码模块对动态网络的时序信息进行建模,将时间戳信息编码为向量,和节点的特征向量进行结合;基于节点在动态图中的影响力进行中心度编码,将节点的度作为其中心度信息编码到节点特征中,由基于中心度编码的注意力模块捕获动态网络的结构信息;设计基于注意力机制的空间事件系数描述动态网络中事件依赖的全局范围。本发明应用神经常微分方程编码连续时序信息,并通过中心度编码和堆叠多层Transformer实现对动态网络中时序信息和拓扑结构信息的提取,以学习包含全局依赖关系的连续动态网络表征。

    基于因果推理的反事实问答方法

    公开(公告)号:CN117573825A

    公开(公告)日:2024-02-20

    申请号:CN202311542239.7

    申请日:2023-11-17

    Applicant: 吉林大学

    Abstract: 本发明公开了一种基于因果推理的反事实问答方法,旨在克服现有技术存在的对问答任务存在的语言偏差,解决了问答任务可解释性和鲁棒性差等问题。该方法的步骤为:1.通过因果推理针对问答任务进行因果分析,构架问答任务的结构因果模型2.通过结构因果模型设计反事实变量控制问答任务3.基于BERT的问答模型基线,并在此基础上设计基于因果推理的由鲁棒分支和捷径分支组成的多分支集成训练框架问答模型。

    一种基于时序图Transformer的连续动态网络表征学习方法

    公开(公告)号:CN114118375A

    公开(公告)日:2022-03-01

    申请号:CN202111434187.2

    申请日:2021-11-29

    Applicant: 吉林大学

    Inventor: 王英 李莹姬 吴越

    Abstract: 本发明公开了一种基于时序图Transformer的连续动态网络表征学习方法,属于网络表征学习领域,包括:由基于连续动态系统的时序编码模块对动态网络的时序信息进行建模,将时间戳信息编码为向量,和节点的特征向量进行结合;基于节点在动态图中的影响力进行中心度编码,将节点的度作为其中心度信息编码到节点特征中,由基于中心度编码的注意力模块捕获动态网络的结构信息;设计基于注意力机制的空间事件系数描述动态网络中事件依赖的全局范围。本发明应用神经常微分方程编码连续时序信息,并通过中心度编码和堆叠多层Transformer实现对动态网络中时序信息和拓扑结构信息的提取,以学习包含全局依赖关系的连续动态网络表征。

    一种基于结构感知的半监督图节点分类方法

    公开(公告)号:CN117454229A

    公开(公告)日:2024-01-26

    申请号:CN202311574649.X

    申请日:2023-11-23

    Applicant: 吉林大学

    Abstract: 本发明公开了一种基于结构感知的半监督图节点分类方法,以及相应的半监督学习框架。该方法旨在应对图结构数据中标注数据有限以及对下游节点分类任务适应性不足的问题。该方法的步骤包括:1.通过无监督任务目标进行图节点的自监督学习,降低节点表示对标签的依赖性,以弥补标注数据的不足;2.构建适用于下游节点分类任务的半监督学习架构;3.基于结构感知的半监督图节点分类方法完成对节点的分类。以更有效的方式利用图结构数据中的有限标注数据,并解决节点表示模型在下游任务中的适应性不足的问题。

    一种面向分布外泛化的领域感知稳定元学习方法

    公开(公告)号:CN115409119A

    公开(公告)日:2022-11-29

    申请号:CN202211077575.4

    申请日:2022-09-05

    Applicant: 吉林大学

    Abstract: 发明公开了一种面向分布外泛化的领域感知稳定元学习方法,本发明属于迁移学习领域。本发明所要解决的技术问题是大多数元学习方法假设基模型在训练过程中可以访问域标签,但这个假设在许多真实的应用程序场景中是十分苛刻的,导致模型难以应用和部署。此外,现有的元学习方法侧重于缩小数据级域转移,而忽略了任务级域转移会导致不充分的泛化甚至会发生负迁移现象。因此,本发明提出一种面向分布外泛化的领域感知稳定元学习方法,使模型捕获具有强分布外泛化能力的域不变表示。本发明包括:一个任务构建模块,用于构建具有多样性的任务,一个域感知的转换模块用于获得元表示和伪域标签,以及一个交叉熵损失和域对齐约束进一步提升模型的泛化能力。

Patent Agency Ranking