-
公开(公告)号：CN118228805A
公开(公告)日：2024-06-21
申请号：CN202410416380.0
申请日：2024-04-08
Applicant: 西安交通大学
IPC: G06N3/094 , G06N3/0455 , G06N3/0475 , G06N3/086 , G06F21/12
Abstract: 本发明属于网络安全领域，公开了一种源代码对抗样本生成方法、系统、计算机设备及存储介质，包括：S1：获取开源的代码预训练编码器；S2：基于源代码的若干标识符，通过遗传算法生成若干替换标识符；S3：基于源代码中各扰动位置对代码预训练编码器的行为重要性，获取源代码中各扰动位置的重要性得分；S4：遍历各预设扰动进行S5和S6，得到源代码对抗样本；S5：选取重要性得分最高的未扰动的当前预设扰动类型的扰动位置作为源代码的当前最优扰动位置，并基于若干替换标识符优化当前预设扰动，并将优化的当前预设扰动应用至源代码的当前最优扰动位置；S6：迭代S5至当前预设扰动类型的已扰动位置达到最大扰动位置数量。基于遗传算法生成强大的替换标识符，增强生成的对抗样本的可迁移性，并基于多种扰动的迭代优化，最终得到更有效的对抗样本。
-
公开(公告)号：CN113822160B
公开(公告)日：2023-09-19
申请号：CN202110963494.3
申请日：2021-08-20
Applicant: 西安交通大学
IPC: G06V40/40 , G06V40/16 , G06V10/774
Abstract: 本发明属于图像处理领域，公开了一种深度伪造检测模型的评测方法、系统及设备，包括以下步骤：根据待评测深度伪造检测模型的训练方法，通过预设的各类型的深度伪造数据集，分别训练待评测深度伪造检测模型，得到各训练好的深度伪造检测模型；通过预设的多样化困难样本集，测试各训练好的深度伪造检测模型，获取训练好的深度伪造检测模型在同分布数据下的准确性指标值、在非同分布数据下的泛化性指标值、健壮性指标值以及实用性指标值并按照预设权重进行加权叠加，得到待评测深度伪造检测模型的评测结果。建立了准确、公平、全面的评测方法，所得到的评测结果更加符合深度伪造检测模型的实际情况。
-
公开(公告)号：CN116343759A
公开(公告)日：2023-06-27
申请号：CN202310187328.8
申请日：2023-03-01
Applicant: 西安交通大学
Abstract: 本发明属于深度学习领域，公开了一种黑盒智能语音识别系统对抗样本生成方法及相关装置，包括根据语音对抗扰动得到语音对抗样本；对目标指令音频文件和语音对抗样本均进行MFCC特征提取，得到目标语音特征矩阵和对抗语音特征矩阵，计算目标语音特征矩阵和对抗语音特征矩阵之间的L2距离作为声学特征损失函数值，计算语音对抗扰动的L2范数作为扰动损失函数值；根据声学特征损失函数值和扰动损失函数值构建对抗扰动优化损失函数，以同时最小化声学特征损失函数值和扰动损失函数值为目标更新语音对抗扰动，通过迭代上述步骤得到最终的语音对抗样本。不需要具备关于目标语音识别系统的任何先验知识，攻击成功率高且可迁移性强。
-
公开(公告)号：CN112069507B
公开(公告)日：2023-04-07
申请号：CN202010996845.6
申请日：2020-09-21
Applicant: 西安交通大学
Abstract: 本发明属于机器学习领域，公开了一种机器学习框架漏洞检测方法、系统、设备及可读存储介质，包括以下步骤：根据预设API的参数配置要求，随机生成预设API的若干单层模型；将每个单层模型分别在若干机器学习框架中实现，得到不同机器学习框架对同一单层模型的实现结果；根据不同机器学习框架对同一单层模型的实现结果的差异，确定各机器学习框架是否存在框架漏洞及框架漏洞类型。该检测方法无需提前生成可以暴露机器学习框架漏洞的模型，本质上是对每个API的不同参数配置以及不同输入进行贪婪搜索，这样的特性决定了该机器学习框架漏洞检测方法实现简单，复杂度低，且对机器学习框架API的覆盖率高，可以有效减少检测问题时的计算资源开销。
-
公开(公告)号：CN114677714A
公开(公告)日：2022-06-28
申请号：CN202210326440.0
申请日：2022-03-30
Applicant: 西安交通大学
Abstract: 本发明属于生物特征认证领域，公开了一种接触式指纹与非接触式指纹的匹配方法及相关装置，包括：获取待匹配的接触式指纹与非接触式指纹；提取接触式指纹与非接触式指纹的细节点，根据接触式指纹与非接触式指纹的细节点进行采样，得到接触式指纹与非接触式指纹的采样指纹；将接触式指纹、接触式指纹的采样指纹、非接触式指纹以及非接触式指纹的采样指纹，输入预设的指纹匹配神经网络模型中，得到接触式指纹与非接触式指纹的高维特征向量；根据接触式指纹与非接触式指纹的高维特征向量之间的相似度，得到接触式指纹与非接触式指纹的匹配结果，提升接触式指纹与非接触式指纹的匹配精确性，可以更加有效地运用于实际的应用场景。
-
Patent Agency Ranking
公开(公告)号：CN112433952B
公开(公告)日：2022-04-22
申请号：CN202011403188.6
申请日：2020-12-04
Applicant: 西安交通大学
Abstract: 本发明属于机器学习领域，公开了一种深度神经网络模型公平性测试方法、系统、设备及介质，包括获取若干样本，并查询待测试神经网络模型得到各样本的预测结果，利用已知预测结果的样本进行聚类为样本簇，并分别训练替代模型，在每个样本簇上基于对应的替代模型，生成新的种子样本集合，并对取出的种子施加扰动，进而使其在很大概率上变成违反公平性条件的样本，并基于对当前发现的违反公平性的样本施加多次扰动，来发现更多的违反公平性条件的样本，用来充分验证深度神经网络模型公平性。该方法使用限制少，充分满足了现实应用中模型不可获取，访问次数受限，且只能获得输出的预测结果的实际限制，整体性能高效，很好的实现黑盒公平性测试的任务。
-
公开(公告)号：CN112949678A
公开(公告)日：2021-06-11
申请号：CN202110049467.5
申请日：2021-01-14
Applicant: 西安交通大学
Abstract: 本发明属于深度学习模型领域，公开了一种深度学习模型对抗样本生成方法、系统、设备及存储介质，包括获取原始图像基于目标深度学习模型的敏感矩阵，获取若干范数组及各范数组对应的扰动图，根据各范数组对应的扰动图得到对抗零范数及对抗无穷范数，根据对抗无穷范数构建预设数量对抗扰动矩阵，通过进化算法迭代优化对抗扰动矩阵，当当前迭代优化后的对抗扰动矩阵中，至少存在一个目标对抗扰动矩阵时，将原始图像通过目标对抗扰动矩阵扰动，得到对抗样本并输出。通过获取敏感矩阵，基于敏感矩阵实现扰动，使扰动的像素点的分布变得稀疏，从人眼观察的角度，使得扰动更不易被察觉，从量化的角度，使得对抗样本的二范数得到了较大的下降。
-
公开(公告)号：CN112433952A
公开(公告)日：2021-03-02
申请号：CN202011403188.6
申请日：2020-12-04
Applicant: 西安交通大学
Abstract: 本发明属于机器学习领域，公开了一种深度神经网络模型公平性测试方法、系统、设备及介质，包括获取若干样本，并查询待测试神经网络模型得到各样本的预测结果，利用已知预测结果的样本进行聚类为样本簇，并分别训练替代模型，在每个样本簇上基于对应的替代模型，生成新的种子样本集合，并对取出的种子施加扰动，进而使其在很大概率上变成违反公平性条件的样本，并基于对当前发现的违反公平性的样本施加多次扰动，来发现更多的违反公平性条件的样本，用来充分验证深度神经网络模型公平性。该方法使用限制少，充分满足了现实应用中模型不可获取，访问次数受限，且只能获得输出的预测结果的实际限制，整体性能高效，很好的实现黑盒公平性测试的任务。
-
公开(公告)号：CN112084505A
公开(公告)日：2020-12-15
申请号：CN202010996847.5
申请日：2020-09-21
Applicant: 西安交通大学
Abstract: 本发明属于智能系统安全领域，公开了一种深度学习模型恶意样本检测方法、系统、设备及存储介质，包括：获取初始模型，修改初始模型的全连接层参数得到若干变异模型；获取待检测样本，将待检测样本分别输入初始模型和若干变异模型，得到初始预测结果及若干变异预测结果；当初始预测结果与若干变异预测结果间的差异率小于预设检测阈值时，确定待检测样本为恶意样本；否则，确定待检测样本为正常样本。相比于现有的检测方法，本发明方法不需要对模型做更改，不需要提前获取恶意样本的先验知识，且对模型本身对正常样本的检测性能影响较小。
-
公开(公告)号：CN118761451A
公开(公告)日：2024-10-11
申请号：CN202410880410.3
申请日：2024-07-02
Applicant: 西安交通大学
IPC: G06N3/084 , G06V10/774 , G06V10/82
Abstract: 本发明属于机器学习领域，公开了一种深度神经网络模型增量学习方法、图像处理方法及装置，包括获取深度神经网络模型和训练数据，并采用训练数据对深度神经网络模型进行过程增量学习训练，得到过程增量学习模型；其中，训练数据包括原始训练数据和增量训练数据；获取增量训练数据在深度神经网络模型和过程增量学习模型上的预测相似度，并根据预测相似度将增量训练数据中预测相似度小于预测相似度阈值的增量训练数据划分为重要样本，其余增量训练数据划分为常规样本；遍历增量训练数据，采用重要样本对过程增量学习模型进行Dropout训练，并采用常规样本对过程增量学习模型进行正常训练，得到增量学习模型。克服了现有的增量学习方法导致深度神经网络模型公平性性能下降较为严重，从而很难应用到实际场景中的缺陷，提升增量学习模型的公平性和准确性。
-
-
-
-
-
-
-
-
-
Search Results
47
records
(took 0.029 seconds)
