-
公开(公告)号：CN119760120A
公开(公告)日：2025-04-04
申请号：CN202411660991.6
申请日：2024-11-20
Applicant: 暨南大学
IPC: G06F16/335 , G06F16/334 , G06N20/00 , G06F16/36
Abstract: 本发明公开了一种基于大语言模型的文本序列推荐方法及系统，属于推荐算法技术领域，包括：数据预处理阶段、大语言模型预训练阶段、序列模型微调阶段以及匹配阶段。本发明通过引入大语言模型到文本序列推荐任务，能够利用大语言模型丰富的预训练语料，更好的对文本进行建模；同时通过将文本进行序列建模，激活了大模型中对于序列推荐建模的能力，摆脱了传统推荐算法中基于ID的推荐范式，更好的在冷启动场景和知识迁移的场景下进行推荐任务学习处理；最后通过序列模型对推荐结果的最终优化，能够实现以往大语言模型输出结果存在幻觉无法精准匹配的问题。
-
Patent Agency Ranking
公开(公告)号：CN118013372B
公开(公告)日：2024-08-02
申请号：CN202410257623.0
申请日：2024-03-07
Applicant: 暨南大学
IPC: G06F18/241 , G06N3/0455 , G06F18/213 , G06F16/35 , G06V10/40 , G06V10/764 , G06V10/82 , G06F18/22 , G06F18/25 , G06N3/047 , G06F18/2415 , G06N3/0895
Abstract: 本发明公开了一种基于多模态数据异构Transformer资产识别方法、系统及设备，该方法包括下述步骤：采集资产各个模态的信息，包括文本信息和图像信息；构建ALBERT模型、ViT模型和CLIP模型；基于ALBERT模型进行文本信息特征提取；基于ViT模型进行图像信息特征提取；基于CLIP模型进行图像文本匹配信息特征提取；对不同模态的信息进行不同通道的资产类型识别，输出不同通道的分类信息，基于CLIP模型对资产缺失信息进行生成；将不同通道的分类信息与CLIP模型得到的图像信息与文本信息的匹配度进行判别融合，输出最终的资产类别信息。本发明能从多个模态进行综合判断，提高资产识别的准确率。
-
公开(公告)号：CN118013372A
公开(公告)日：2024-05-10
申请号：CN202410257623.0
申请日：2024-03-07
Applicant: 暨南大学
IPC: G06F18/241 , G06N3/0455 , G06F18/213 , G06F16/35 , G06V10/40 , G06V10/764 , G06V10/82 , G06F18/22 , G06F18/25 , G06N3/047 , G06F18/2415 , G06N3/0895
Abstract: 本发明公开了一种基于多模态数据异构Transformer资产识别方法、系统及设备，该方法包括下述步骤：采集资产各个模态的信息，包括文本信息和图像信息；构建ALBERT模型、ViT模型和CLIP模型；基于ALBERT模型进行文本信息特征提取；基于ViT模型进行图像信息特征提取；基于CLIP模型进行图像文本匹配信息特征提取；对不同模态的信息进行不同通道的资产类型识别，输出不同通道的分类信息，基于CLIP模型对资产缺失信息进行生成；将不同通道的分类信息与CLIP模型得到的图像信息与文本信息的匹配度进行判别融合，输出最终的资产类别信息。本发明能从多个模态进行综合判断，提高资产识别的准确率。
-
公开(公告)号：CN119760235A
公开(公告)日：2025-04-04
申请号：CN202411846805.8
申请日：2024-12-16
IPC: G06F16/9535 , G06F16/9537 , G06F16/334 , G06F40/30 , G06N3/0455 , G06N5/04
Abstract: 本发明公开一种基于大语言模型Zero‑Shot的物品推荐系统排序方法，该方法包括下述步骤：构建用户历史顺序交互物品集合和顺序候选物品集合，构建大语言模型Zero‑Shot排序指令模板，生成对应的大语言模型的提示词，大语言模型通过用户历史交互顺序信息提取用户的物品喜好，并对顺序候选物品集进行排序，对大语言模型输出结果提取用户对应的排序结果Su，验证排序结果Su的完整性，利用注意力机制对带上下文的用户与物品候选集的嵌入向量进行排序，得到排序结果Au；对排序结果Su和排序结果Au的每一个物品所对应的排序结果做平均，再进行排序，得到用户的推荐结果。本发明增加大语言模型的语义信息，能够更精准地进行推荐。
-
公开(公告)号：CN118734177B
公开(公告)日：2024-12-17
申请号：CN202410722555.0
申请日：2024-06-05
Applicant: 暨南大学
IPC: G06F18/2411 , G06F18/214 , G06F18/213
Abstract: 本发明公开了一种基于大语言模型的冷启动推荐方法及系统，属于推荐系统领域，包括：构建微调训练数据集；选择预训练大语言模型，利用低秩矩阵训练的方法进行模型微调训练后，通过微调训练数据集进行迭代训练，每次迭代过程采用半监督方法判断数据质量，直到loss函数下降到设计阈值，生成目标大语言模型；基于微调训练数据集的内容数据和交互数据，通过目标大语言模型，获取内容数据对应的内容嵌入向量，以及交互数据对应的协同嵌入向量；通过前馈神经网络，将内容嵌入向量和协同嵌入向量对齐，生成物品冷启嵌入向量生成器，用于根据冷物品的内容嵌入向量，获取推荐的冷启物品嵌入向量。本发明有效地提高了在冷启动物品推荐场景下的推荐性能。
-
公开(公告)号：CN118734177A
公开(公告)日：2024-10-01
申请号：CN202410722555.0
申请日：2024-06-05
Applicant: 暨南大学
IPC: G06F18/2411 , G06F18/214 , G06F18/213
Abstract: 本发明公开了一种基于大语言模型的冷启动推荐方法及系统，属于推荐系统领域，包括：构建微调训练数据集；选择预训练大语言模型，利用低秩矩阵训练的方法进行模型微调训练后，通过微调训练数据集进行迭代训练，每次迭代过程采用半监督方法判断数据质量，直到loss函数下降到设计阈值，生成目标大语言模型；基于微调训练数据集的内容数据和交互数据，通过目标大语言模型，获取内容数据对应的内容嵌入向量，以及交互数据对应的协同嵌入向量；通过前馈神经网络，将内容嵌入向量和协同嵌入向量对齐，生成物品冷启嵌入向量生成器，用于根据冷物品的内容嵌入向量，获取推荐的冷启物品嵌入向量。本发明有效地提高了在冷启动物品推荐场景下的推荐性能。
-
-
-
-
-
Search Results
6
records
(took 0.018 seconds)
