-
公开(公告)号：CN119785770A
公开(公告)日：2025-04-08
申请号：CN202411951570.9
申请日：2024-12-27
Applicant: 西安交通大学
Abstract: 本发明属于音频处理技术领域，公开了一种音频处理智能体鲁棒性测评方法及相关装置，包括：获取待测评音频处理智能体的替代智能体以及若干原始音频样本；根据若干原始音频样本和预构建的若干攻击向量，通过待测评音频处理智能体的替代智能体，得到若干对抗音频样本；将若干对抗音频样本输入至预设的音频处理智能体，得到若干对抗音频样本的实际输出；以及根据若干对抗音频样本的实际输出和预期输出，得到若干对抗音频样本的攻击成功率，作为音频处理智能体鲁棒性测评结果。在多种场景中综合测试音频处理智能体鲁棒性，可以实现全面而准确的分析，进而辅助音频处理智能体的安全部署与安全风险控制，保证实际应用时音频处理的可靠性和安全性。
-
公开(公告)号：CN119251620A
公开(公告)日：2025-01-03
申请号：CN202411374576.4
申请日：2024-09-29
Applicant: 西安交通大学
Abstract: 本发明属于机器学习领域，公开了一种视觉感知系统的延迟攻击对抗样本生成方法及相关装置，包括获取原始图像集和视觉感知系统的目标跟踪器参数；根据视觉感知系统的目标跟踪器参数，基于原始图像集以最大化视觉感知系统的目标跟踪器的延迟时间为优化目标得到攻击策略；以最小化视觉感知系统的目标检测模型的损失函数值为优化目标，生成与攻击策略的攻击区域数量相同数量的通用对抗扰动；根据攻击策略将通用对抗扰动加入到原始图像集中，得到视觉感知系统延迟攻击对抗样本集。实现延迟攻击对抗样本对视觉感知系统较高的攻击成功率，可以作为视觉感知系统的安全性和有效性评价基础，并能用来完善和优化视觉感知系统。
-
公开(公告)号：CN118981434A
公开(公告)日：2024-11-19
申请号：CN202411066022.8
申请日：2024-08-05
Applicant: 西安交通大学
IPC: G06F11/36 , G06N3/0464 , G06N3/08
Abstract: 本发明属于人工智能领域，公开了一种深度神经系统测试方法及相关装置，包括：获取种子选择池以及待测试深度神经系统的测试目标；根据待测试深度神经系统的测试目标，基于预设的测试目标与种子选择策略对应关系集，得到待测试深度神经系统的目标种子选择策略；根据标初始种子选择策略从种子选择池中选择初始种子，得到待测试深度神经系统的初始种子集；根据待测试深度神经系统的初始种子集进行待测试深度神经系统的测试。可以在测试过程中，节省更多的时间和计算资源，相比目前常用的随机选取的方法更具效率，避免由于种子数量过大和测试资源有限的冲突导致的测试不充分情况；方法通用性良好，所用方法和算法可以迁移到其他指标、目标上，且不局限于特定的数据集或模型。
-
公开(公告)号：CN118228805A
公开(公告)日：2024-06-21
申请号：CN202410416380.0
申请日：2024-04-08
Applicant: 西安交通大学
IPC: G06N3/094 , G06N3/0455 , G06N3/0475 , G06N3/086 , G06F21/12
Abstract: 本发明属于网络安全领域，公开了一种源代码对抗样本生成方法、系统、计算机设备及存储介质，包括：S1：获取开源的代码预训练编码器；S2：基于源代码的若干标识符，通过遗传算法生成若干替换标识符；S3：基于源代码中各扰动位置对代码预训练编码器的行为重要性，获取源代码中各扰动位置的重要性得分；S4：遍历各预设扰动进行S5和S6，得到源代码对抗样本；S5：选取重要性得分最高的未扰动的当前预设扰动类型的扰动位置作为源代码的当前最优扰动位置，并基于若干替换标识符优化当前预设扰动，并将优化的当前预设扰动应用至源代码的当前最优扰动位置；S6：迭代S5至当前预设扰动类型的已扰动位置达到最大扰动位置数量。基于遗传算法生成强大的替换标识符，增强生成的对抗样本的可迁移性，并基于多种扰动的迭代优化，最终得到更有效的对抗样本。
-
-
-
Search Results
4
records
(took 0.023 seconds)
