-
公开(公告)号：CN118507035B
公开(公告)日：2024-10-29
申请号：CN202410949274.9
申请日：2024-07-16
Applicant: 北京大学 , 北京六元空间信息科技有限责任公司
IPC: G16H50/20 , G06N5/02 , G06N3/042 , G06N3/0455 , G06N3/0464 , G06F18/213 , G06F18/25
Abstract: 本申请公开了一种基于知识图谱增强的医疗诊断方法及应用，涉及自然语言处理技术领域，所述的方法包括：将医疗数据输入至预先进行知识图谱增强和预训练的大语言模型进行处理，从而提高了大模型对知识图谱中信息的全面提取能力；通过多模态输入处理层进行多模态融合，从而能够处理不同模态的信息，理解模态间的交互关系；通过上下文感知的解码器对多模态特征向量进行跨模态自注意力增强，从而能够更有效地整合和处理不同模态的输入，能够识别和强化它们之间的关联，从而提高整体的信息处理能力，将增强后的多模态特征转化为具体的医疗诊断结果。
-
公开(公告)号：CN118485141B
公开(公告)日：2024-10-29
申请号：CN202410949277.2
申请日：2024-07-16
Applicant: 北京大学 , 北京六元空间信息科技有限责任公司
IPC: G06N5/02 , G06F40/295 , G06N20/00
Abstract: 本申请公开了一种中文医学大语言模型训练方法及装置，涉及自然语言处理技术领域，所述的方法包括：通过医学文本对预设大语言模型进行预学习训练，使得大语言模型在语义层面上理解专业医学知识。根据开源中文医学考试数据集对预训练后的模型进行监督微调训练，从而降低计算复杂度和内存需求，这使得在保持模型性能的同时，能够在有限的计算资源下进行高效的微调。最后根据构建的知识图谱和强化学习数据集进行知识反馈的强化学习，有助于解决监督微调后由于模型过度拟合而出现的“幻觉”现象，从而将大语言模型的输出与相关的专业医学知识进行充分对齐，提高大语言模型在医学领域回答的准确度。
-
公开(公告)号：CN118507035A
公开(公告)日：2024-08-16
申请号：CN202410949274.9
申请日：2024-07-16
Applicant: 北京大学 , 北京六元空间信息科技有限责任公司
IPC: G16H50/20 , G06N5/02 , G06N3/042 , G06N3/0455 , G06N3/0464 , G06F18/213 , G06F18/25
Abstract: 本申请公开了一种基于知识图谱增强的医疗诊断方法及应用，涉及自然语言处理技术领域，所述的方法包括：将医疗数据输入至预先进行知识图谱增强和预训练的大语言模型进行处理，从而提高了大模型对知识图谱中信息的全面提取能力；通过多模态输入处理层进行多模态融合，从而能够处理不同模态的信息，理解模态间的交互关系；通过上下文感知的解码器对多模态特征向量进行跨模态自注意力增强，从而能够更有效地整合和处理不同模态的输入，能够识别和强化它们之间的关联，从而提高整体的信息处理能力，将增强后的多模态特征转化为具体的医疗诊断结果。
-
公开(公告)号：CN118485141A
公开(公告)日：2024-08-13
申请号：CN202410949277.2
申请日：2024-07-16
Applicant: 北京大学 , 北京六元空间信息科技有限责任公司
IPC: G06N5/02 , G06F40/295 , G06N20/00
Abstract: 本申请公开了一种中文医学大语言模型训练方法及装置，涉及自然语言处理技术领域，所述的方法包括：通过医学文本对预设大语言模型进行预学习训练，使得大语言模型在语义层面上理解专业医学知识。根据开源中文医学考试数据集对预训练后的模型进行监督微调训练，从而降低计算复杂度和内存需求，这使得在保持模型性能的同时，能够在有限的计算资源下进行高效的微调。最后根据构建的知识图谱和强化学习数据集进行知识反馈的强化学习，有助于解决监督微调后由于模型过度拟合而出现的“幻觉”现象，从而将大语言模型的输出与相关的专业医学知识进行充分对齐，提高大语言模型在医学领域回答的准确度。
-
-
-
Search Results
4
records
(took 0.039 seconds)
