公开(公告)号：CN117875396A

公开(公告)日：2024-04-12

申请号：CN202410018366.5

申请日：2024-01-05

Applicant: 电子科技大学

Inventor： 左琳 ,  丁永奇 ,  敬蒙蒙 ,  杨坤山 ,  肖永俊 ,  何沛

IPC: G06N3/084 ,  G06N3/0464

Abstract: 本发明公开了一种基于时间步长收缩的脉冲神经网络训练方法，属于类脑计算和深度学习领域。本发明所述方法将具有任意网络结构的脉冲神经网络划分为多个阶段，每个阶段的时间步长逐渐收缩，结合代理梯度及随机梯度下降算法对脉冲神经网络进行训练；同时，使用非对称注意力机制对时间步长收缩时的信息进行自适应重要性评估，对其进行重分配实现时间尺度转换。相较于现有方法，本发明所述方法能够大幅降低脉冲神经网络的推理延迟，且在同等延迟下达到更高的识别、检测性能。

公开(公告)号：CN116824326A

公开(公告)日：2023-09-29

申请号：CN202310403488.1

申请日：2023-04-17

Applicant: 电子科技大学

Inventor： 左琳 ,  丁永奇 ,  郑福康 ,  肖永俊 ,  何沛 ,  叶岩宁

IPC: G06V10/82 ,  G06N3/049 ,  G06N3/0464 ,  G06N3/06 ,  G06V10/764 ,  G06N3/084 ,  G06N3/047

Abstract: 本发明公开了一种基于概率和注意力机制融合的脉冲神经网络图像识别方法，属于计算机视觉和类脑计算领域。本发明所述方法使用基于膜电势和放电阈值计算的概率信息连续化不可微分的脉冲放电活动，并结合概率与自适应的放电阈值产生输出信息；同时，使用注意力机制对脉冲神经元接收到的输入信息进一步细化并融入膜电势。通过所述方法构建脉冲神经元并组成深度脉冲神经网络，结合随时间进行的反向传播算法迭代更新脉冲神经网络中的参数。相较于现有技术，本发明所述方法能够在极低时间延迟场景下准确地识别静态图像以及基于异步脉冲的事件数据所属类别。

公开(公告)号：CN119851033A

公开(公告)日：2025-04-18

申请号：CN202510018964.7

申请日：2025-01-07

Applicant: 电子科技大学

Inventor： 左琳 ,  余芸倩 ,  何沛 ,  彭浩然 ,  何坤彬

IPC: G06V10/764 ,  G06V10/774 ,  G06V10/82 ,  G06V10/40 ,  G06V10/80 ,  G06V20/70 ,  G06N3/0464 ,  G06N3/045 ,  G06N3/0895

Abstract: 本发明公开了一种基于自适应视觉残差聚合网络的提示学习方法，属于深度学习技术领域。本发明通过在CLIP模型中引入视觉残差聚合模块以及语义一致性模块根据大模型实际应用场景存在的问题对新类进行分类检测，首先，使用残差聚合模块可实现自适应融合类无关特征，从而有效保留泛化知识。然后，通过语义一致性模块引入一个可学习的线性层，并将残差聚合模块获得的自适应特征输入到语义一致性模块中，加入语义一致性损失和真实标签对泛化性文本提示进行训练。最后通过对比学习，得到最终的分类结果。本发明提出的方法在进行分类任务时，特别是对新类检测，能够有效利用模型遗忘的泛化特征和语义特征对文本提示进行训练，实现了模型的泛化能力和语义识别能力之间的动态平衡，使模型更适配下游任务，有效提高模型在新型上的准确率。

公开(公告)号：CN119169456A

公开(公告)日：2024-12-20

申请号：CN202411198883.1

申请日：2024-08-29

Applicant: 电子科技大学

Inventor： 左琳 ,  陈彪 ,  何沛 ,  罗文伟 ,  杨坤山

IPC: G06V20/10 ,  G06V10/25 ,  G06V10/764 ,  G06V10/774 ,  G06V10/82 ,  G06V10/80

Abstract: 本发明公开了一种基于互注意力机制和领域自适应的隧道烟火检测方法，属于深度学习技术领域。本发明通过使用基于互注意力机制和细粒度领域自适应的烟火区域定位检测方法，根据实际应用场景中存在的问题对隧道烟火进行检测，首先利用图像生成技术生成大量的仿真隧道烟火图像数据，随后通过互注意力机制度量仿真隧道烟火图像和真实隧道烟火图像特征向量的相关性并优先对齐相关性较高的特征分布，再利用细粒度领域自适应方法对齐图像级和实例级特征分布，最后实现细粒度领域自适应的隧道烟火定位检测。本发明提出的方法在进行隧道烟火检测时，能够有效地对齐仿真隧道烟火图像和真实隧道烟火图像的分布，利用仿真隧道烟火图像中的特征知识提升隧道烟火区域定位检测能力，提高准确率。

公开(公告)号：CN116560337A

公开(公告)日：2023-08-08

申请号：CN202310516238.9

申请日：2023-05-09

Applicant: 电子科技大学

Inventor： 左琳 ,  丁永奇 ,  肖永俊 ,  何沛

IPC: G05B23/02 ,  G06N3/049 ,  G06N3/0464 ,  G06N3/08

Abstract: 本发明公开了一种端到端的脉冲神经网络工业过程故障诊断方法，属于故障诊断和类脑计算领域。本发明所述方法通过脉冲编码模块、多尺度特征提取模块、并行的兴奋‑抑制模块和脉冲解码模块进行端到端的故障诊断，首先使用带有不同感受野大小的卷积层和脉冲神经元层将输入的过程变量编码为脉冲序列，然后使用多尺度卷积层提取故障相关的多尺度高维特征，并利用通道注意力机制对提取出的多尺度特征进行选择性关注，随后使用并行的兴奋性脉冲通路和抑制性脉冲通路进一步提取故障相关的特征，最后使用卷积层以及全连接层对提取出的特征进行解码得到故障诊断结果。本发明所述方法能够准确地诊断工业过程中出现的故障，且相较于传统方法具有更低的能耗。

公开(公告)号：CN117057402A

公开(公告)日：2023-11-14

申请号：CN202311206638.6

申请日：2023-09-19

Applicant: 电子科技大学

Inventor： 郑福康 ,  左琳 ,  丁永奇 ,  叶岩宁 ,  罗时敏 ,  何沛

IPC: G06N3/0475 ,  G06N3/048 ,  G06N3/094 ,  G06N5/02 ,  G06V10/40 ,  G06V10/82

Abstract: 本发明涉及一种基于对抗知识蒸馏与注意力机制的模型轻量化方法，属于知识蒸馏与图像识别领域；该方法通过构建师生模型结构，引入注意力机制，类比知识蒸馏与对抗网络结构的相似性，成功提高了边缘场景下资源受限的图像识别精度；首先采用知识转移方法将教师网络的专业知识传授给学生网络，以有效传递有价值信息和引导学生网络学习，其次利用基于GAN的对抗性损失，在迭代训练中促进了教师和学生网络之间的知识交流，提高学生网络的准确性和性能，最后引入注意力机制以确保准确信息交换，使模型聚焦于最相关和信息丰富的部分。通过整合注意力机制和基于GAN的对抗性损失，提供了全面的知识蒸馏方法，改善了网络之间的知识传递，提升了学生网络的学习和性能，实现了优化。