公开(公告)号：CN119741564A

公开(公告)日：2025-04-01

申请号：CN202411921779.0

申请日：2024-12-25

Applicant: 国网重庆市电力公司电力科学研究院 ,  重庆邮电大学 ,  国家电网有限公司

Inventor： 程晓 ,  米建勋 ,  陈咏涛 ,  陈涛 ,  向菲 ,  况彭燕 ,  江金洋 ,  张哲宇 ,  李松浓 ,  戴豪礽 ,  彭文鑫 ,  钟加勇 ,  王雪文 ,  刘丁豪

IPC: G06V10/774 ,  G06V10/25 ,  G06V10/82 ,  G06N3/094 ,  G06N3/0464

Abstract: 本发明公开了一种针对目标检测模型中目标边界框定位的对抗攻击方法，涉及深度学习技术领域，利用原始图像数据对目标检测模型进行训练，获取训练后的目标检测模型；将目标图像输入至所述训练后的目标检测模型中获取所有预测结果；利用所述预测结果生成热图，热图用于指示在目标图像中对每个属性的预测有积极影响的重要区域；利用所述热图生成掩码，掩码用于限制扰动区域；对抗样本生成，生成对抗扰动，利用所述掩码限制扰动区域，生成对抗样本。本发明方法不仅可以实现单独攻击目标边界框的某一边界，而且能够保持目标类别不变，从而提高了攻击隐蔽性。

公开(公告)号：CN119851016A

公开(公告)日：2025-04-18

申请号：CN202411913186.X

申请日：2024-12-24

Applicant: 国网重庆市电力公司电力科学研究院

Inventor： 米建勋 ,  程晓 ,  罗琳 ,  钟加勇 ,  向菲 ,  江金洋 ,  张哲宇 ,  李松浓 ,  戴豪礽 ,  彭文鑫 ,  况彭燕 ,  刘丁豪 ,  王雪文

IPC: G06V10/764 ,  G06V10/774 ,  G06V10/82 ,  G06V10/40

Abstract: 本发明公开了一种针对目标检测模型中定位问题的黑盒可解释方法与装置，该方法包括利用原始图像数据对目标检测模型进行训练，得到训练好的目标检测模型；将待解释的图像输入到训练好的目标检测模型中，输出多个待解释的目标框，每个目标框包括顶点坐标、对象的类别和类别的置信度；拟采用蒙特卡罗采样产生多个掩模，对图片进行扰动，将扰动后的图像输入网络，产生候选框，根据候选框是否与待解释的目标框为同一类别，同一对象，同一条边沿，为被扰动的区域进行权重赋值；利用每个扰动掩模对应的权重，对掩模进行加权求和，得到最终的解释热图。本发明通过扰动原图，精准地捕捉输出的变化，从而产生热力图进行解释。

公开(公告)号：CN119399435A

公开(公告)日：2025-02-07

申请号：CN202411484859.4

申请日：2024-10-23

Applicant: 中国电力科学研究院有限公司 ,  国网重庆市电力公司电力科学研究院 ,  国家电网有限公司

Inventor： 乔骥 ,  李家腾 ,  米建勋 ,  陈鸣轩 ,  田鹏 ,  吕小红

IPC: G06V10/25 ,  G06V10/764 ,  G06V10/82 ,  G06N3/0464 ,  G06N3/048 ,  G06N3/0475 ,  G06N3/094

Abstract: 本申请属于一种样本生成方法，针对现有目标检测的对抗攻击方法通用性较差的技术问题，提供一种对抗样本生成方法、系统、电子设备、存储介质，将目标图像输入目标检测模型，得到目标检测模型的多个预测结果，并获取目标检测模型主干网络输出的特征图，根据多个预测结果生成对应的注意力图，再根据注意力图和特征图，得到经过注意力图增强后的特征图，调整经过注意力图增强后的特征图形状，计算调整后特征图每个通道的标准差，作为评估特征图分散程度的指标，通过降低特征图的分散度，使生成的对抗样本能够实现对目标检测模型的有效攻击。然后以调整后特征图每个通道的标准差之和最小为优化目标，结合用于生成对抗样本的算法生成对抗样本。

公开(公告)号：CN119741565A

公开(公告)日：2025-04-01

申请号：CN202411922065.1

申请日：2024-12-25

Applicant: 国网重庆市电力公司电力科学研究院 ,  重庆邮电大学 ,  国家电网有限公司

Inventor： 田鹏 ,  程晓 ,  陈涛 ,  米建勋 ,  吕小红 ,  厉仄平 ,  何迎春 ,  向菲 ,  张哲宇 ,  李松浓 ,  江金洋 ,  赵祥金 ,  徐凯 ,  况彭燕 ,  彭文鑫 ,  戴豪礽

IPC: G06V10/774 ,  G06V10/25 ,  G06V10/764 ,  G06V10/82 ,  G06N3/094 ,  G06N3/0464

Abstract: 本发明公开了一种针对两阶段目标检测模型的非定向对抗攻击方法，涉及深度学习安全技术领域，利用原始图像数据对两阶段目标检测模型进行训练，得到训练后的两阶段目标检测模型；将目标图像输入值所述训练后的两阶段目标检测模型中，获取目标图像所有分类正确的候选区域以及所述候选区域的类别；利用目标图像所有被分类到对应类别中的候选区域构造目标函数，对所述目标函数求解，得到对抗扰动，通过所述对抗扰动获取对抗样本，该方法不仅减小了对抗样本的扰动，而且能够令目标检测模型将目标分类到背景类别中，从而使得攻击目标隐藏。

公开(公告)号：CN117853846A

公开(公告)日：2024-04-09

申请号：CN202410143731.5

申请日：2024-01-31

Applicant: 国网重庆市电力公司电力科学研究院 ,  重庆邮电大学 ,  国家电网有限公司

Inventor： 陈咏涛 ,  米建勋 ,  程晓 ,  田鹏 ,  陈涛 ,  吕小红 ,  向菲 ,  钟加勇 ,  厉仄平 ,  江金洋 ,  李松浓 ,  况彭燕 ,  彭文鑫 ,  戴豪礽 ,  张哲宇 ,  徐凯 ,  赵祥金

IPC: G06V10/774 ,  G06V10/82 ,  G06N3/0475 ,  G06N3/094

Abstract: 本申请公开了一种黑盒对抗样本生成方法、装置、设备及存储介质，涉及深度学习安全技术领域，包括：利用预先获取的数据集对初始目标检测模型进行训练，将训练好的目标检测模型确定为黑盒目标检测模型；将目标图像输入黑盒目标检测模型中，获取若干个预测结果，基于预测结果及预设热图生成算法生成热图；基于热图生成目标掩码，利用目标技术生成对抗扰动，利用目标掩码限制对抗扰动的扰动区域，根据相应的限制后对抗扰动确定对抗样本。由此，本申请能够将对抗扰动的覆盖区域限制在有效攻击的区域，进而根据生成的对抗样本对黑盒目标检测模型进行攻击测试。

公开(公告)号：CN114972861A

公开(公告)日：2022-08-30

申请号：CN202210572978.X

申请日：2022-05-24

Applicant: 国网重庆市电力公司电力科学研究院 ,  国家电网有限公司

Inventor： 米建勋 ,  李澳 ,  程晓 ,  陈涛 ,  向菲 ,  钱基业 ,  江金洋 ,  尹心

IPC: G06V10/764 ,  G06V10/82 ,  G06N3/04 ,  G06N3/08

Abstract: 本发明公开了一种对抗样本生成方法、装置、设备及存储介质，该方法包括获取目标检测模型对原始图像的检测结果，根据原始图像被分类到指定类别中的候选区域，构造分类损失函数；将原始图像中指定类别对应的目标像素点替换为随机噪声，并根据所述原始图像和替换后的图像，构造特征损失函数；基于所述分类损失函数和所述特征损失函数，确定优化目标函数；对所述优化目标函数求解，获得对抗样本。本发明通过构造分类损失函数和特征损失函数，确定优化目标函数，以此获得对抗样本，能够将指定类别目标误分类到非指定类别中，通过构造与背景特征图尽可能接近的对抗样本特征图，从而使得对抗样本的扰动较小，攻击隐蔽性更高。