公开(公告)号：CN119202183A

公开(公告)日：2024-12-27

申请号：CN202411321596.5

申请日：2024-09-23

Applicant: 清华大学无锡应用技术研究院 ,  清华大学

Inventor： 车静文 ,  陆吕健 ,  孙龙 ,  范秋枫 ,  曹祥 ,  刘洋

IPC: G06F16/332 ,  G06F16/31 ,  G06F16/335 ,  G06F21/30 ,  G06F21/62 ,  G06N5/04

Abstract: 本发明涉及人工智能技术领域，具体公开了一种连通多个RAG系统的数据流通方法，包括：将用户问题发送给RAG系统，使得RAG系统能够确定出对应的动态描述内容；根据动态描述内容和历史对话进行推理，以判断出是否需要调用RAG系统来回答用户问题；当需要调用RAG系统时，根据用户问题和动态描述内容将用户问题拆分成若干子问题，并依次调用若干子问题对应的RAG系统来得到对应的回答结果；当能够根据回答结果来回复用户问题时，将回答结果返回至用户端。本发明能够在不破坏原有的单个RAG系统的情况下，跨部门、跨机构、跨领域地使得数据要素流通起来，并在保护隐私安全的前提下互相结合，产生新的价值。

公开(公告)号：CN119203232A

公开(公告)日：2024-12-27

申请号：CN202411321594.6

申请日：2024-09-23

Applicant: 清华大学无锡应用技术研究院 ,  清华大学

Inventor： 车静文 ,  陆吕健 ,  顾子轩 ,  孙龙 ,  范秋枫 ,  曹祥 ,  刘洋

IPC: G06F21/62 ,  G06N5/04 ,  G06N3/006 ,  G06F16/28 ,  G06F16/2453 ,  G06F16/2455

Abstract: 本发明涉及安全调用技术领域，具体公开了一种基于大语言模型的数据安全分析方法，包括：当智能体接收到前端输入的用户问题时，根据用户问题生成当前提示词；将当前提示词输入大语言模型，以生成当前推理轨迹；判断当前推理轨迹中是否存在最终回答；若存在，则输出最终回答到前端；若不存在，则根据当前推理轨迹调用查询工具以获取目标数据，然后依据目标数据生成当前观察结果；通过ReAct推理框架根据当前推理轨迹和当前观察结果更新当前提示词，并根据更新后的提示词再次进行推理，直至大语言模型生成的推理轨迹中存在最终回答，最后输出最终回答到前端。本发明能够使得银行在保护私域数据不出域情况下，使用大语言模型能力进行查询内容生成以及数据库查找，进而进行数据安全分析。

公开(公告)号：CN119203231A

公开(公告)日：2024-12-27

申请号：CN202411321593.1

申请日：2024-09-23

Applicant: 清华大学无锡应用技术研究院 ,  清华大学

Inventor： 车静文 ,  陆吕健 ,  顾子轩 ,  孙龙 ,  范秋枫 ,  曹祥 ,  刘洋

IPC: G06F21/62 ,  G06N3/006 ,  G06N3/094 ,  G06N5/04 ,  G06F16/242 ,  G06F16/28 ,  G06F16/2455

Abstract: 本发明涉及安全调用技术领域，具体公开了一种基于大语言模型和防御算法的数据安全分析方法，包括：当智能体接收到前端输入的用户问题时，根据用户问题生成当前提示词；将当前提示词输入大语言模型，大语言模型根据当前提示词计算出中间结果，通过防御算法对中间结果进行扰动，以得到扰动后的中间结果，然后大语言模型根据扰动后的中间结果生成当前推理轨迹；判断当前推理轨迹中是否存在最终回答；若存在，则输出最终回答到前端；若不存在，则根据当前推理轨迹调用查询工具以获取目标数据，然后依据目标数据生成当前观察结果；通过ReAct推理框架根据当前推理轨迹和当前观察结果更新当前提示词，并根据更新后的提示词再次进行推理，直至大语言模型生成的推理轨迹中存在最终回答，最后输出最终回答到前端。本发明能够使得银行在保护私域数据不出域情况下，使用大语言模型能力进行查询内容生成以及数据库查找，进而进行数据安全分析。

公开(公告)号：CN119172375A

公开(公告)日：2024-12-20

申请号：CN202411321592.7

申请日：2024-09-23

Applicant: 清华大学无锡应用技术研究院 ,  清华大学

Inventor： 孙龙 ,  陆吕健 ,  车静文 ,  范秋枫 ,  曹祥 ,  刘洋

IPC: H04L67/06 ,  H04L67/133 ,  H04L69/04 ,  H04L67/141 ,  H04L9/40 ,  G06N3/098

Abstract: 本发明涉及一种大模型推理及训练的分布式传输方法及系统，涉及大模型分布式数据传输技术领域。该方法包括：客户端接收模型输入数据以及与模型输入数据对应的模型目标指令；将模型输入数据以及模型目标指令输入第一模型模块，输出得到模型中间处理结果，将中间处理结果以及模型目标指令发送至服务器；服务器将中间处理结果以及目标模型指令输入第二模型模块中，输出得到模型处理结果。在服务器中对应的模型模块进行处理的情况下，实现了服务器与客户端之间对于大模型的分布式部署以及共同应用，从而降低服务器端的数据处理量，同时提高客户端的隐私安全性。