-
公开(公告)号：CN119089411A
公开(公告)日：2024-12-06
申请号：CN202411071578.6
申请日：2024-08-06
Applicant: 中国科学院信息工程研究所
Abstract: 本发明公开了一种针对大模型代码生成能力的安全评测方法及系统。本发明首先提取实际的漏洞代码，对其进行清理和注释以构建数据集，然后选择目标大模型(即代码生成模型)的数据补充安全结果作为搜索对抗性样本的输入；然后使用梯度信息计算提示中每个token的重要性得分，以识别提示中对模型输出的代码影响最大的部分；最后选择重要性得分高的token并应用语义保留突变来生成修改后的提示。新的提示与原提示语义类似，目的是潜在地触发大模型不安全的代码生成。本发明能够生成与原始输入非常相似的对抗性代码样本来诱导大模型生成具有漏洞的代码，能够更好地评估代码生成模型的安全性，为开发防御机制以防止对抗性攻击铺平道路。
-
公开(公告)号：CN118312188A
公开(公告)日：2024-07-09
申请号：CN202410529093.0
申请日：2024-04-29
Applicant: 中国科学院信息工程研究所
Abstract: 本发明公开一种针对自递归内联的反编译代码优化方法及系统，属于软件技术领域。所述方法包括：对反编译结果进行结构形式上的初步优化，以降低其他编译优化选项带来的影响；对于初步优化后的反编译结果，识别出内联函数体的所有可能的边界；根据内联函数体的所有可能的边界，识别出正确的内联函数体；识别所述正确的内联函数体的参数，并基于所述参数恢复调用语句。本发明可以消除自递归内联产生的冗余代码，能够提高反编译代码的可读性，帮助分析人员对反编译代码进行分析和理解。
-
公开(公告)号：CN117668897A
公开(公告)日：2024-03-08
申请号：CN202311541102.X
申请日：2023-11-17
Applicant: 中国科学院信息工程研究所
IPC: G06F21/62 , G06F21/55 , G06F18/214 , G06F18/241 , G06N3/08
Abstract: 本发明公开了一种针对神经网络分类模型的隐私保护方法及装置，该方法包括：构建模型遗忘数据集，并获取模型遗忘数据集中每一样本的软标签，模型遗忘数据集包括：基于训练目标模型的训练数据集A所得到的数据集A′和基于所述训练数据集A之外的样本所得到的数据集B′；基于数据集A′和对应的软标签，构建目标模型的遗忘触发器；基于模型遗忘数据集的样本与对应的软标签对目标模型进行定向遗忘的微调训练，得到微调后的目标模型；在测试样本中添加遗忘触发器后，送入微调后的目标模型，得到测试样本的预测结果。本发明能够大幅降低攻击者利用成员推断攻击窃取到模型训练数据隐私的成功率。
-
公开(公告)号：CN113177630B
公开(公告)日：2024-02-13
申请号：CN202110395360.6
申请日：2021-04-13
Applicant: 中国科学院信息工程研究所
IPC: G06N3/0464 , G06N3/08
Abstract: 本发明涉及一种针对深度学习模型的数据记忆消除方法和装置。该方法的步骤包括：保存在深度学习模型的初次训练过程中得到的中间模型；在删除数据后对深度学习模型进行重训练时，直接调用在删除数据点之前且与删除数据点最接近的中间模型作为初始化的遗忘模型；利用删除数据点之后的数据对初始化的遗忘模型进行重训练，并衡量删除数据在重训练模型上的残留记忆，当残留记忆降低到能够忽略不计时终止重训练；在重训练结束后，调用保存的中间模型对重训练后的遗忘模型进行拼接，得到最终的遗忘模型。本发明大幅降低了模型服务商提供删除服务需要耗费的时间和算力，也对删除数据提供了隐私保护，同时保证了遗忘数据后模型的高可用性。
-
公开(公告)号：CN117421010A
公开(公告)日：2024-01-19
申请号：CN202311326842.1
申请日：2023-10-13
Applicant: 中国科学院信息工程研究所
IPC: G06F8/53 , G06F18/24 , G06F18/214 , G06N3/0464 , G06N3/09
Abstract: 本发明涉及一种基于大语言模型的反编译结果优化方法和系统。该方法包括：裁判角色通过与大语言模型交互获得反编译结果的优化方案；根据裁判角色获得的优化方案，建议者角色通过与大语言模型交互获得具体的整改措施；操作员角色将建议者角色获得的整改措施施加于反编译结果，并检查函数语义是否被改变，根据函数语义的变化确定是否接受整改措施。本发明设计了一种基于通用大语言模型的反编译结果优化方法来自动地为反编译结果增加语义信息，去除冗余变量，简化控制结构。与当前一流反编译器的结果相比，该技术能通过上述优化措施进一步提高反编译结果的可读性，辅助逆向分析人员理解二进制程序。
-
Patent Agency Ranking
公开(公告)号：CN111221844B
公开(公告)日：2023-10-03
申请号：CN201911112595.9
申请日：2019-11-14
Applicant: 广东电网有限责任公司信息中心 , 中国科学院信息工程研究所
IPC: G06F16/242 , G06F16/25
Abstract: 本发明公开了一种基于拟态指令集随机化的Web服务器防护方法及数据库代理节点。本方法为：1)对Web服务器上预先设定的SQL查询语句进行随机化处理，生成n条随机化指令并分别与当前输入信息进行组合，生成n条等价的随机化处理后的查询语句传递给数据库代理；2)数据库代理对每一条随机化处理后的查询语句生成一对应的语法树结构并判断语法树结构中的每一项是否符合语法要求；3)根据步骤2)的判断结果确定当前查询语句是否为安全的查询语句；如果是安全的查询语句，则数据库代理将对查询语句进行去随机化操作，并提交给数据库，数据库将查询结果经数据库代理反馈给Web服务器；否则数据库代理将返回错误提示给Web服务器。
-
公开(公告)号：CN110175067B
公开(公告)日：2023-06-13
申请号：CN201910163513.7
申请日：2019-03-05
Applicant: 广东电网有限责任公司信息中心 , 中国科学院信息工程研究所
Abstract: 本发明涉及一种移动应用立体防御方法和系统。该方法在移动设备部署软件安全技术，在移动设备的通信过程部署通信安全技术，在移动应用服务器部署风险控制技术，通过所述软件安全技术、所述通信安全技术和所述风险控制技术对移动应用进行全面保护。本发明包含移动设备、信息传输和服务提供三个方面的防御策略，涵盖了安全加固、安全检测、安全开发、可信计算、安全传输、风险控制和渠道监控多个部分，囊括了移动应用的开发、发布、运行、通信整个周期，能够对移动应用提供全面保护，提升移动互联网安全等级，降低隐私泄露和匿名风险的发生率，为移动应用打造了完整有效的防御体系。
-
公开(公告)号：CN116028937A
公开(公告)日：2023-04-28
申请号：CN202111247641.3
申请日：2021-10-26
Applicant: 腾讯科技(深圳)有限公司 , 中国科学院信息工程研究所
IPC: G06F21/57
Abstract: 本申请实施例提供了一种数据安全加固方法、装置、设备以及介质，该方法涉及安全技术领域，可以应用在终端设备的应用软件中；包括：获取目标程序中的基本功能代码块之间的转换命中频率，根据转换命中频率在目标程序的基本功能代码块中确定错误处理路径；获取用于配置程序跳转参数的变量配置信息，根据变量配置信息生成包含协作跳转表的障碍代码；障碍代码中的协作跳转表用于阻碍针对目标程序的模糊测试；在目标程序的错误处理路径中插入障碍代码，生成用于发布的加固二进制文件。采用本申请实施例，可以降低模糊测试中的漏洞检测能力，进而可以提高数据的安全性。
-
公开(公告)号：CN114691151A
公开(公告)日：2022-07-01
申请号：CN202210271791.6
申请日：2022-03-18
Applicant: 中国科学院信息工程研究所
Abstract: 本发明涉及一种基于深度学习的优化代码反编译方法和系统。该方法的步骤包括：利用低级编程语言LPL和高级编程语言HPL获取低级中间语言LIR和高级中间语言HIR，作为训练数据集；利用训练数据集训练深度学习模型，学习LIR和HIR之间的映射规则，利用训练完成的深度学习模型，将待进行反编译的LPL的LIR翻译为HIR；对深度学习模型得到的HIR进行数据流恢复和控制结构恢复，生成HPL代码；利用相似性匹配算法寻找与生成的HPL代码相似的有源码代码，将有源码代码中的语义信息迁移到生成的HPL代码中。本发明可以自动将LPL转换为HPL，针对优化和不优化的二进制反编译都具有较高的准确性。
-
公开(公告)号：CN110290100B
公开(公告)日：2021-11-09
申请号：CN201910166730.1
申请日：2019-03-06
Applicant: 广东电网有限责任公司信息中心 , 中国科学院信息工程研究所
IPC: H04L29/06 , H04L12/715
Abstract: 本发明涉及一种基于SDN的拟态Web服务器及用户请求处理方法。该基于SDN框架的拟态Web服务器包括：异构执行体池，包含多个软硬件异构的执行体，每个执行体位于不同子网，每个子网包含多个异构软件栈的Web服务器虚拟机和一个共用的数据库；外围网络区，包含SDN控制器以及SDN交换机，SDN交换机用于用户请求数据流的复制、修改、分发以及服务器处理结果数据流的返回，SDN控制器用于监测、选择、控制异构执行体以及对多个执行结果的表决。本发明利用软件定义网络SDN的框架实现拟态Web服务器，对服务器的整个系统组成采取化静为动的策略，将防御的重点从降低可利用性转变为破坏可达性，能够达到更好的防御效果。
-
-
-
-
-
-
-
-
-
Search Results
47
records
(took 0.051 seconds)
