基于大语言模型的深度学习编译器模糊测试方法及系统

    公开(公告)号:CN117632751A

    公开(公告)日:2024-03-01

    申请号:CN202311675029.5

    申请日:2023-12-07

    Abstract: 本发明提供一种基于大语言模型的深度学习编译器模糊测试方法及系统,所述方法包括:基于大语言模型生成多段能够调用一个或多个指定深度学习API的代码片段,以构成模糊测试的初始代码种子集合;根据指定深度学习API的文档进行传参的约束提取,得到API约束文件;基于API约束文件对初始代码种子进行变异,得到测试代码片段;通过比较测试代码片段在待测深度学习编译器与参考编译器的编译结果,得到待测深度学习编译器的测试结果。本发明可以发现深度学习编译器中的漏洞,保证深度学习模型的变异后语义与原始模型相同,进而保障下游应用程序的正确性。

    面向人工智能模型迁移安全的后门攻击对抗方法及系统

    公开(公告)号:CN116702832A

    公开(公告)日:2023-09-05

    申请号:CN202310705688.2

    申请日:2023-06-14

    Abstract: 本发明公开了一种面向人工智能模型迁移安全的后门攻击对抗方法及系统。本发明基于对知识蒸馏迁移范式进行优化,来抵抗后门攻击触发器模式的转移;其中学生模型不直接模仿教师模型的输出,而是在利用Transformer对学生模型输出进行层间融合后以全局交互信息模式对教师模型输出进行匹配学习,教师模型的信息被融合信息分散拆解到学生模型各阶段的参数权重内,可避免学生模型受到教师模型内包含的基于局部信息的攻击后门的影响,同时全局信息融合可以提高学生模型所学习的语义,从而提高精度。本发明提供的方法可在迁移不可信来源的人工智能模型能力时,获得可去除基于局部信息攻击后门的安全学生模型。

    一种基于深度强化学习的深度学习漏洞检测模型对抗样本生成方法和系统

    公开(公告)号:CN115481714A

    公开(公告)日:2022-12-16

    申请号:CN202210553722.4

    申请日:2022-05-20

    Abstract: 本发明提供一种基于深度强化学习的深度学习漏洞检测模型对抗样本生成方法和系统。该方法包括:获取基于深度学习的目标漏洞检测模型信息以及用于生成对抗样本的原型漏洞代码集合;构建面向目标漏洞检测模型的有效对抗代码变换;构建面向最优对抗样本生成的深度强化学习框架;使用有效对抗代码变换和面向最优对抗样本生成的深度强化学习框架,生成目标漏洞检测模型的最优对抗样本。本发明利用目标漏洞检测模型的代码表征中对模型决策有重要影响的特征构造有效对抗代码变换,并采用深度强化学习算法生成面向目标漏洞检测模型的最优对抗样本,能更为高效、有针对性地生成基于深度学习的目标漏洞检测模型的对抗样本。

    基于API文档图谱的操作系统智能编程方法及装置

    公开(公告)号:CN113849163A

    公开(公告)日:2021-12-28

    申请号:CN202111174889.1

    申请日:2021-10-09

    Abstract: 本发明公开了一种基于API文档图谱的操作系统智能编程方法及装置,包括根据从源系统及目标系统的API文档中提取的所需信息,分别构建源系统的API文档图谱ADG1及目标系统的API文档图谱ADG2;分别向量化API文档图谱ADG1与API文档图谱ADG2,构建节点表示矩阵及节点表示矩阵基于节点表示矩阵与节点表示矩阵进行API文档图谱ADG1与API文档图谱ADG2的实体对齐任务,得到API映射结果。本发明避免了API文档中有效信息丢失,解决了已有的基于代码的API映射方法存在的代码库不可用、不准确等问题,以及基于文档的API映射方法的信息利用不充分等问题,为后续通过智能编程实现应用程序的跨系统迁移的过程提供支持。

    一种基于代码属性张量的程序源代码编码方法

    公开(公告)号:CN110286891A

    公开(公告)日:2019-09-27

    申请号:CN201910554093.5

    申请日:2019-06-25

    Abstract: 本发明涉及一种基于代码属性张量的程序源代码编码方法,包括:对程序源代码生成代码属性图;创建符号表、节点表和代码属性张量并进行初始化;将AST节点的数据类型和AST节点之间的运算关系编码到代码属性张量中;将AST节点之间的父子关系编码到代码属性张量中;将CFG节点之间的邻接关系编码到代码属性张量中,输出最终的代码属性张量。本发明为了解决已有的程序源代码的编码方式无法充分体现程序语义特征的问题,提出了代码属性张量的概念,以及将程序源代码编码为代码属性张量的算法。本发明可以在避免语义信息的丢失的情况下,将程序源代码编码为张量形式的数据,作为机器学习模型的输入,为后续的程序静态分析工作提供支持。

    基于安卓API使用规范的代码质量自动评估优化方法

    公开(公告)号:CN106126412B

    公开(公告)日:2019-03-05

    申请号:CN201610421577.9

    申请日:2016-06-14

    Abstract: 本发明涉及一种基于安卓API使用规范的代码质量自动评估优化方法。其步骤包括:构建特定的专用解析器解析API概述文档;基于安卓API使用规范对API进行分类,建立API特征库;建立自动扫描评估引擎,对待测安卓应用程序进行调用API扫描,统计调用API的类型分布,定位移除API、不推荐API和隐藏API的调用位置;提供自动化的代码质量优化建议,生成代码质量评估报告。本发明为考察安卓应用程序调用API的规范程度建立了完整的自动检测评估体系,可有效帮助安卓应用程序开发人员检测并优化API的使用,减少API的误用,提升安卓应用程序代码质量,进而提高安卓应用程序的安全等级。

    一种安卓应用程序稳定性验证PoC自动生成方法和装置

    公开(公告)号:CN106055482A

    公开(公告)日:2016-10-26

    申请号:CN201610390904.9

    申请日:2016-06-03

    Abstract: 本发明涉及一种安卓应用程序稳定性验证PoC的自动生成方法和装置。首先输入Android应用程序包,随后稳定性验证PoC自动生成引擎对其进行自动化地分析与处理,最终输出稳定性验证PoC程序集。其中稳定性验证PoC自动生成引擎首先提取Android应用程序包的稳定性测试特征集;然后构造静态PoC程序集;接着自动化执行静态PoC程序集中所有稳定性验证PoC程序,筛选运行结果,形成PoC程序运行结果数据集;最后将PoC程序运行结果数据集与静态PoC程序集做匹配,查找并标记触发该项稳定性问题的PoC程序,建立稳定性验证PoC程序集。本发明为安卓应用程序开发者提供了提高应用程序稳定性的改进方向和依据。

Patent Agency Ranking