公开(公告)号：CN120011533A

公开(公告)日：2025-05-16

申请号：CN202411932410.X

申请日：2024-12-26

Applicant: 暨南大学

Inventor： 黄斐然 ,  马伟元 ,  刘文骁 ,  周志博 ,  刘志全 ,  谢绍均

IPC: G06F16/334 ,  G06F16/335 ,  G06F16/36 ,  G06F40/295 ,  G06N5/022 ,  G06N5/04

Abstract: 本发明公开了一种基于知识蒸馏与思维链的轻量化信息抽取方法及系统，涉及自然语言处理中的信息抽取技术领域，包括：首先，对领域文本进行预处理，利用少样本学习进行数据增强，生成伪数据以提高模型在特定领域的表现；随后，通过大语言模型进行微调，提取文本中的实体、关系和事件和推理中间结果等关键信息；接着，应用知识蒸馏技术，将微调后的大模型知识压缩至轻量化模型中。同时采用检索增强生成技术和思维链机制，结合实时查询外部知识库，精确地从文本中提取结构化信息，逐步完成复杂信息提取任务。本发明提升了信息抽取的准确性和模型的轻量化部署效果，适用于命名实体识别、关系抽取、事件检测和情感分析等多种任务。

公开(公告)号：CN118939832A

公开(公告)日：2024-11-12

申请号：CN202410935761.X

申请日：2024-07-12

Applicant: 暨南大学

Inventor： 周志博 ,  陈炜俊 ,  谢绍均 ,  黄斐然

IPC: G06F16/735 ,  G06F18/10 ,  G06F18/213 ,  G06F18/214 ,  G06N3/042

Abstract: 本发明公开了一种基于图神经网络的影视推荐方法及系统，属于计算机数据挖掘与分析技术领域，包括：采集用户交互数据并进行预处理后，采用图结构建立图神经网络推荐模型，用于将用户和影视作为节点，分别建立用户的正向意图和负向意图的二部图；基于图神经网络推荐模型，将网络开源的带评分数据的影视平台数据集作为训练数据进行模型训练，提取负向意图表征的信息，以增强正向意图表征，并通过多层感知机为增强后的结果丰富非线性关系，获取用户与不同影视内容之间的交互评分；基于交互评分的高低，为用户推荐影视内容。本发明充分考虑用户行为意图的多样性和影视资源之间的关联性，本发明将为用户带来更加全面、深入的影视推荐体验。

公开(公告)号：CN119377497A

公开(公告)日：2025-01-28

申请号：CN202411476650.3

申请日：2024-10-22

Applicant: 暨南大学

Inventor： 黄斐然 ,  丁思艺 ,  陈国良 ,  谢绍均 ,  周志博

IPC: G06F16/9536 ,  G06N3/047 ,  G06N3/0464 ,  G06N3/042 ,  G06N3/0895 ,  G06N3/098

Abstract: 本发明公开了一种基于对比学习辅助推荐系统抵御托攻击的方法及系统，属于推荐系统安全领域，包括：使用交互数据建立交互矩阵，将目标用户的邻居节点作为正样本，非目标用户的邻居节点作为负样本，实现数据增广,建立对比学习模型、用户检测模型和抵御托攻击的推荐模型，通过将三个模型进行联合训练，训练完成后计算用户物品的交互分数，取分数为top20的交互物品形成用户推荐列表。本发明在推荐系统的基础上，结合对比学习和多层感知机，能够检测虚假用户，并利用置信值作为权重实现抵御托攻击的推荐系统方法，该方法解决了检测虚假用户正确率低和托攻击下推荐效果差的问题，有效提升了检测虚假用户准确率和推荐系统抵御托攻击能力。

公开(公告)号：CN119760120A

公开(公告)日：2025-04-04

申请号：CN202411660991.6

申请日：2024-11-20

Applicant: 暨南大学

Inventor： 周志博 ,  杨正航 ,  谢绍均 ,  黄斐然

IPC: G06F16/335 ,  G06F16/334 ,  G06N20/00 ,  G06F16/36

Abstract: 本发明公开了一种基于大语言模型的文本序列推荐方法及系统，属于推荐算法技术领域，包括：数据预处理阶段、大语言模型预训练阶段、序列模型微调阶段以及匹配阶段。本发明通过引入大语言模型到文本序列推荐任务，能够利用大语言模型丰富的预训练语料，更好的对文本进行建模；同时通过将文本进行序列建模，激活了大模型中对于序列推荐建模的能力，摆脱了传统推荐算法中基于ID的推荐范式，更好的在冷启动场景和知识迁移的场景下进行推荐任务学习处理；最后通过序列模型对推荐结果的最终优化，能够实现以往大语言模型输出结果存在幻觉无法精准匹配的问题。

公开(公告)号：CN118734177B

公开(公告)日：2024-12-17

申请号：CN202410722555.0

申请日：2024-06-05

Applicant: 暨南大学

Inventor： 谢绍均 ,  杨正航 ,  黄斐然 ,  支庭荣

IPC: G06F18/2411 ,  G06F18/214 ,  G06F18/213

Abstract: 本发明公开了一种基于大语言模型的冷启动推荐方法及系统，属于推荐系统领域，包括：构建微调训练数据集；选择预训练大语言模型，利用低秩矩阵训练的方法进行模型微调训练后，通过微调训练数据集进行迭代训练，每次迭代过程采用半监督方法判断数据质量，直到loss函数下降到设计阈值，生成目标大语言模型；基于微调训练数据集的内容数据和交互数据，通过目标大语言模型，获取内容数据对应的内容嵌入向量，以及交互数据对应的协同嵌入向量；通过前馈神经网络，将内容嵌入向量和协同嵌入向量对齐，生成物品冷启嵌入向量生成器，用于根据冷物品的内容嵌入向量，获取推荐的冷启物品嵌入向量。本发明有效地提高了在冷启动物品推荐场景下的推荐性能。

公开(公告)号：CN118734177A

公开(公告)日：2024-10-01

申请号：CN202410722555.0

申请日：2024-06-05

Applicant: 暨南大学

Inventor： 谢绍均 ,  杨正航 ,  黄斐然 ,  支庭荣

IPC: G06F18/2411 ,  G06F18/214 ,  G06F18/213

Abstract: 本发明公开了一种基于大语言模型的冷启动推荐方法及系统，属于推荐系统领域，包括：构建微调训练数据集；选择预训练大语言模型，利用低秩矩阵训练的方法进行模型微调训练后，通过微调训练数据集进行迭代训练，每次迭代过程采用半监督方法判断数据质量，直到loss函数下降到设计阈值，生成目标大语言模型；基于微调训练数据集的内容数据和交互数据，通过目标大语言模型，获取内容数据对应的内容嵌入向量，以及交互数据对应的协同嵌入向量；通过前馈神经网络，将内容嵌入向量和协同嵌入向量对齐，生成物品冷启嵌入向量生成器，用于根据冷物品的内容嵌入向量，获取推荐的冷启物品嵌入向量。本发明有效地提高了在冷启动物品推荐场景下的推荐性能。