公开(公告)号：CN118334454A

公开(公告)日：2024-07-12

申请号：CN202410625993.5

申请日：2024-05-20

Applicant: 西安交通大学

Inventor： 蔺琛皓 ,  杨雨龙 ,  李前 ,  姬祥 ,  田奇伟 ,  沈超

IPC: G06V10/764 ,  G06V10/774 ,  G06V10/82 ,  G06N3/045 ,  G06N3/08

Abstract: 本发明属于图像处理领域，公开了一种图像分类方法、系统、设备及存储介质，包括：获取待分类图像；将待分类图像输入至预设的鲁棒图像分类模型，得到分类结果；其中，鲁棒图像分类模型通过构建基于深度学习模型的图像分类模型，然后通过下述训练方式进行训练得到：获取初始训练图像样本并进行正常图像样本增广和对抗图像样本增广，得到训练数据集，以及通过训练数据集结合数据增强方法迭代训练图像分类模型，得到鲁棒图像分类模型；其中，在迭代训练过程中，依据训练图像样本的置信度，从训练数据集中筛选预设数量的训练图像样本作为下一迭代轮次的训练数据。提升深度学习模型在实际应用场景中的鲁棒性，提升通过深度神经网络模型处理图像分类的效率和鲁棒性。

公开(公告)号：CN119785770A

公开(公告)日：2025-04-08

申请号：CN202411951570.9

申请日：2024-12-27

Applicant: 西安交通大学

Inventor： 蔺琛皓 ,  汤子恒 ,  杨雨龙 ,  杨鑫山 ,  李帅东 ,  赵正宇 ,  沈超 ,  李前

IPC: G10L15/01 ,  G10L15/20

Abstract: 本发明属于音频处理技术领域，公开了一种音频处理智能体鲁棒性测评方法及相关装置，包括：获取待测评音频处理智能体的替代智能体以及若干原始音频样本；根据若干原始音频样本和预构建的若干攻击向量，通过待测评音频处理智能体的替代智能体，得到若干对抗音频样本；将若干对抗音频样本输入至预设的音频处理智能体，得到若干对抗音频样本的实际输出；以及根据若干对抗音频样本的实际输出和预期输出，得到若干对抗音频样本的攻击成功率，作为音频处理智能体鲁棒性测评结果。在多种场景中综合测试音频处理智能体鲁棒性，可以实现全面而准确的分析，进而辅助音频处理智能体的安全部署与安全风险控制，保证实际应用时音频处理的可靠性和安全性。

公开(公告)号：CN117830749A

公开(公告)日：2024-04-05

申请号：CN202410159376.0

申请日：2024-02-04

Applicant: 西安交通大学

Inventor： 蔺琛皓 ,  姬祥 ,  沈超 ,  杨雨龙 ,  李前

IPC: G06V10/764 ,  G06V10/774 ,  G06V10/82 ,  G06N3/0464 ,  G06N3/094 ,  G06N3/044 ,  G06N3/084

Abstract: 本发明属于图像处理领域，公开了一种图像分类模型对抗训练方法及相关装置，包括扰动各训练图像得到各对抗训练样本，以及基于各对抗训练样本，以最小化损失函数值为优化目标迭代训练图像分类模型，得到预训练图像分类模型；筛选各对抗训练样本中基于预训练图像分类模型的分类结果错误的对抗训练样本，得到困难对抗训练样本；获取并基于各困难对抗训练样本的威胁级别，得到各困难对抗训练样本的训练权重值；基于各困难对抗训练样本，以最小化最终损失函数值为优化目标训练图像分类模型，以及迭代上述步骤至最大迭代轮次，得到训练完成的图像分类模型。可以大幅提升对抗训练的时间和计算效率，并且能够提升图像分类模型的鲁棒性和公平性。

公开(公告)号：CN115393675A

公开(公告)日：2022-11-25

申请号：CN202211138059.8

申请日：2022-09-19

Applicant: 西安交通大学

Inventor： 蔺琛皓 ,  杨雨龙 ,  沈超 ,  李前

IPC: G06V10/776 ,  G06V10/774 ,  G06V10/764 ,  G06V10/82 ,  G06N3/04 ,  G06N3/08

Abstract: 本发明属于深度学习安全领域，公开了一种深度学习模型的对抗鲁棒性测评方法及相关装置，包括获取与待测评深度学习模型功能相同的预训练量化替代模型；获取预训练量化替代模型的类型，并根据预训练量化替代模型的类型，在预训练量化替代模型中引入随机量化操作，得到预处理替代模型；获取若干图像样本，并根据预处理替代模型，通过迁移对抗攻击算法得到若干对抗图像样本；将若干对抗图像样本输入至待测评深度学习模型，得到若干对抗图像样本的输出，并根据若干对抗图像样本的输出，得到待测评深度学习模型的对抗鲁棒性测评结果。通过引入随机量化操作实现对抗样本迁移性的提升，能够最大限度地暴露对抗样本安全风险，提升对抗鲁棒性测评的可靠性。

公开(公告)号：CN118228805A

公开(公告)日：2024-06-21

申请号：CN202410416380.0

申请日：2024-04-08

Applicant: 西安交通大学

Inventor： 蔺琛皓 ,  樊浩然 ,  杨雨龙 ,  李前 ,  赵正宇 ,  沈超

IPC: G06N3/094 ,  G06N3/0455 ,  G06N3/0475 ,  G06N3/086 ,  G06F21/12

Abstract: 本发明属于网络安全领域，公开了一种源代码对抗样本生成方法、系统、计算机设备及存储介质，包括：S1：获取开源的代码预训练编码器；S2：基于源代码的若干标识符，通过遗传算法生成若干替换标识符；S3：基于源代码中各扰动位置对代码预训练编码器的行为重要性，获取源代码中各扰动位置的重要性得分；S4：遍历各预设扰动进行S5和S6，得到源代码对抗样本；S5：选取重要性得分最高的未扰动的当前预设扰动类型的扰动位置作为源代码的当前最优扰动位置，并基于若干替换标识符优化当前预设扰动，并将优化的当前预设扰动应用至源代码的当前最优扰动位置；S6：迭代S5至当前预设扰动类型的已扰动位置达到最大扰动位置数量。基于遗传算法生成强大的替换标识符，增强生成的对抗样本的可迁移性，并基于多种扰动的迭代优化，最终得到更有效的对抗样本。