基于多模态融合的医学影像报告生成方法及装置

    公开(公告)号:CN115331769B

    公开(公告)日:2023-05-09

    申请号:CN202210836966.3

    申请日:2022-07-15

    Abstract: 本发明提供一种基于多模态融合的医学影像报告生成方法及装置,所述方法包括:构建医学先验知识图谱,并获取所述医学先验知识图谱中每个节点的初始特征向量;将所述医学先验知识图谱和所述医学先验知识图谱中每个节点的初始特征向量输入到图编码器中,得到图嵌入向量;将医学影像输入到不包括线性层的图像编码器中,得到视觉特征序列;采取协同注意力机制,对所述图嵌入向量和所述视觉特征序列进行多模态融合,得到经过注意力重新赋权的图像序列;将所述经过注意力重新赋权的图像序列输入到记忆驱动Transformer模型中,生成医学影像报告。本发明可以提高医学影像报告生成的准确性和可靠性。

    基于多模态融合的医学影像报告生成方法及装置

    公开(公告)号:CN115331769A

    公开(公告)日:2022-11-11

    申请号:CN202210836966.3

    申请日:2022-07-15

    Abstract: 本发明提供一种基于多模态融合的医学影像报告生成方法及装置,所述方法包括:构建医学先验知识图谱,并获取所述医学先验知识图谱中每个节点的初始特征向量;将所述医学先验知识图谱和所述医学先验知识图谱中每个节点的初始特征向量输入到图编码器中,得到图嵌入向量;将医学影像输入到不包括线性层的图像编码器中,得到视觉特征序列;采取协同注意力机制,对所述图嵌入向量和所述视觉特征序列进行多模态融合,得到经过注意力重新赋权的图像序列;将所述经过注意力重新赋权的图像序列输入到记忆驱动Transformer模型中,生成医学影像报告。本发明可以提高医学影像报告生成的准确性和可靠性。

    心理咨询对话生成方法、装置、设备及存储介质

    公开(公告)号:CN118553412B

    公开(公告)日:2024-10-29

    申请号:CN202411028276.0

    申请日:2024-07-30

    Abstract: 本发明公开了一种心理咨询对话生成方法、装置、设备及存储介质,该方法包括:在接收到用户的对话输入指令时,基于时空知识图谱,并根据用户的历史对话信息和历史对话状态确定用户的当前对话状态;根据用户的当前对话对应的对话上下文和当前对话活动序列预测对话活动类型;利用检索增强生成技术,通过当前对话状态和对话活动类型从心理知识库中匹配目标文本片段;将当前对话状态、对话活动类型和目标文本片段输入至预设大语言模型生成目标答复语句。本发明根据用户的历史对话信息和历史对话状态确定用户的当前对话状态,利用检索增强生成技术从心理知识库中匹配目标文本片段,最后生成目标答复语句,保证了线上心理咨询回复的体系性和专业性。

    中文医学大语言模型训练方法及装置

    公开(公告)号:CN118485141B

    公开(公告)日:2024-10-29

    申请号:CN202410949277.2

    申请日:2024-07-16

    Abstract: 本申请公开了一种中文医学大语言模型训练方法及装置,涉及自然语言处理技术领域,所述的方法包括:通过医学文本对预设大语言模型进行预学习训练,使得大语言模型在语义层面上理解专业医学知识。根据开源中文医学考试数据集对预训练后的模型进行监督微调训练,从而降低计算复杂度和内存需求,这使得在保持模型性能的同时,能够在有限的计算资源下进行高效的微调。最后根据构建的知识图谱和强化学习数据集进行知识反馈的强化学习,有助于解决监督微调后由于模型过度拟合而出现的“幻觉”现象,从而将大语言模型的输出与相关的专业医学知识进行充分对齐,提高大语言模型在医学领域回答的准确度。

    基于大语言模型的诊疗辅助装置及诊疗辅助方法

    公开(公告)号:CN118471488B

    公开(公告)日:2024-10-29

    申请号:CN202410941564.9

    申请日:2024-07-15

    Abstract: 本申请公开了一种基于大语言模型的诊疗辅助装置及诊疗辅助方法,涉及人工智能技术领域,该装置包括:在检测到用户基于诊疗界面触发的用户治疗请求时,根据用户治疗请求获得用户意图信息;根据用户意图信息确定待治疗用户对应的治疗方式;在治疗方式为诊疗辅助方式时,通过预设诊疗辅助模型生成待治疗用户对应的辅助诊疗策略;预设诊疗辅助模型基于agent框架构建,agent框架中设置有规划器和反思器,规划器和反思器基于专家轨迹数据对预设诊疗辅助模型进行迭代调整。应用上述技术方案,解决了现有技术中CBTI治疗方法需要大量的人力和场地成本,且依赖专家执行,导致其普及范围受限,无法充分适应患者的多元化需求的技术问题。

    信息检索知识图谱嵌入方法、装置和计算机设备

    公开(公告)号:CN116842109A

    公开(公告)日:2023-10-03

    申请号:CN202310766394.0

    申请日:2023-06-27

    Applicant: 北京大学

    Abstract: 本申请涉及一种信息检索知识图谱嵌入方法、装置和计算机设备。方法包括:获取信息检索知识图谱,并采集信息检索知识图谱的各子图信息;将各子图信息,转换为每个子图信息对应的文本序列,并对各文本序列进行编码转换处理,得到每个文本序列对应的掩盖实体向量、以及每个文本序列的掩盖关系向量;针对每个文本序列,基于文本序列对应的子图信息的图结构信息,更新文本序列的掩盖实体向量、以及文本序列的掩盖关系向量,并重建上述各向量得到信息检索知识图谱对应的各实体向量、以及信息检索知识图谱对应的各关系向量。采用本方法能够提升生成该信息检索知识图谱的实体向量和关系向量的精准度。

    基于大语言模型的诊疗辅助装置及诊疗辅助方法

    公开(公告)号:CN118471488A

    公开(公告)日:2024-08-09

    申请号:CN202410941564.9

    申请日:2024-07-15

    Abstract: 本申请公开了一种基于大语言模型的诊疗辅助装置及诊疗辅助方法,涉及人工智能技术领域,该装置包括:在检测到用户基于诊疗界面触发的用户治疗请求时,根据用户治疗请求获得用户意图信息;根据用户意图信息确定待治疗用户对应的治疗方式;在治疗方式为诊疗辅助方式时,通过预设诊疗辅助模型生成待治疗用户对应的辅助诊疗策略;预设诊疗辅助模型基于agent框架构建,agent框架中设置有规划器和反思器,规划器和反思器基于专家轨迹数据对预设诊疗辅助模型进行迭代调整。应用上述技术方案,解决了现有技术中CBTI治疗方法需要大量的人力和场地成本,且依赖专家执行,导致其普及范围受限,无法充分适应患者的多元化需求的技术问题。

    信息检索知识图谱嵌入方法、装置和计算机设备

    公开(公告)号:CN116842109B

    公开(公告)日:2024-09-13

    申请号:CN202310766394.0

    申请日:2023-06-27

    Applicant: 北京大学

    Abstract: 本申请涉及一种信息检索知识图谱嵌入方法、装置和计算机设备。方法包括:获取信息检索知识图谱,并采集信息检索知识图谱的各子图信息;将各子图信息,转换为每个子图信息对应的文本序列,并对各文本序列进行编码转换处理,得到每个文本序列对应的掩盖实体向量、以及每个文本序列的掩盖关系向量;针对每个文本序列,基于文本序列对应的子图信息的图结构信息,更新文本序列的掩盖实体向量、以及文本序列的掩盖关系向量,并重建上述各向量得到信息检索知识图谱对应的各实体向量、以及信息检索知识图谱对应的各关系向量。采用本方法能够提升生成该信息检索知识图谱的实体向量和关系向量的精准度。

Patent Agency Ranking