Patent search ap:("南京信息工程大学") AND inv:"袁利连" Page 1

1.

发明公开
基于梯度相似性超网的多目标神经架构搜索方法和系统审中-实审

公开(公告)号：CN119180305A

公开(公告)日：2024-12-24

申请号：CN202411700143.3

申请日：2024-11-26

Applicant: 南京信息工程大学

Inventor： 袁利连 , 薛羽

IPC: G06N3/045 , G06N3/084 , G06N3/086 , G06N3/126 , G06F18/22

Abstract: 本发明提出基于梯度相似性超网的多目标神经架构搜索方法和系统，所述方法包括：构建一个超网，通过训练生成共享权重。训练过程中，采用梯度范数重要性采样策略，动态优化路径和数据的采样概率，优先选择对权重更新影响较大的架构和数据，以提高效率。针对多目标优化中的梯度冲突，引入PCGrad投影法，计算梯度相似性动态主导方向选择和梯度投影，减少冲突并稳定优化过程。超网训练后，初始化种群继承共享权重，在目标数据集上获得性能，并通过进化算法进行非支配排序和优化，以确保在精度、浮点计算次数和参数量等目标上实现均衡表现。本发明在保证多目标均衡优化的前提下，有效降低了计算成本，提升了神经网络架构搜索的效率和性能。

Patent Agency Ranking