公开(公告)号：CN116955539B

公开(公告)日：2023-12-12

申请号：CN202311192177.1

申请日：2023-09-15

Applicant: 哈尔滨工业大学(深圳)(哈尔滨工业大学深圳科技创新研究院)

Inventor： 顾钊铨 ,  梁栩健 ,  肖洪涛 ,  谭昊 ,  张欢 ,  李鉴明 ,  廖清 ,  高翠芸 ,  徐国爱

IPC: G06F16/33 ,  G06F40/30 ,  G06N5/04 ,  G06N5/02

Abstract: 本发明提供一种基于思维链推理隐式生成内容合规性判定方法，包括：步骤一：将安全性未知文本X输入大规模语言模型M；步骤二：询问大规模语言模型M安全性未知文本X中的主客体成份，获取主体文本S以及客体文本T；步骤三：询问大规模语言模型M潜在观点，获得潜在观点文本O；步骤四：根据步骤三获得的潜在观点文本O，询问大规模语言模型M安全性未知文本X表达的意图是否符合规范，如果符合规范，输出：安全，否则输出：不安全。本发明的有益效果是：本发明很好的利用大规模语言模型的常识推断能力以及特定领域的专家知识，合理的提示大规模语言模型进行链式推理，逐步地揭示出深层的文本隐藏语义，大幅度提升了系统文本安全检测系统的性能。

公开(公告)号：CN116955539A

公开(公告)日：2023-10-27

申请号：CN202311192177.1

申请日：2023-09-15

Applicant: 哈尔滨工业大学(深圳)(哈尔滨工业大学深圳科技创新研究院)

Inventor： 顾钊铨 ,  梁栩健 ,  肖洪涛 ,  谭昊 ,  张欢 ,  李鉴明 ,  廖清 ,  高翠芸 ,  徐国爱

IPC: G06F16/33 ,  G06F40/30 ,  G06N5/04 ,  G06N5/02

Abstract: 本发明提供一种基于思维链推理隐式生成内容合规性判定方法，包括：步骤一：将安全性未知文本X输入大规模语言模型M；步骤二：询问大规模语言模型M安全性未知文本X中的主客体成份，获取主体文本S以及客体文本T；步骤三：询问大规模语言模型M潜在观点，获得潜在观点文本O；步骤四：根据步骤三获得的潜在观点文本O，询问大规模语言模型M安全性未知文本X表达的意图是否符合规范，如果符合规范，输出：安全，否则输出：不安全。本发明的有益效果是：本发明很好的利用大规模语言模型的常识推断能力以及特定领域的专家知识，合理的提示大规模语言模型进行链式推理，逐步地揭示出深层的文本隐藏语义，大幅度提升了系统文本安全检测系统的性能。