公开(公告)号：CN116911362A

公开(公告)日：2023-10-20

申请号：CN202310718827.5

申请日：2023-06-16

Applicant: 厦门大学

Inventor： 肖亮 ,  王楚璇 ,  刘钰 ,  吕泽芳

IPC: G06N3/0495 ,  G06N3/045 ,  G06N3/047 ,  G06N3/048 ,  G06N3/092 ,  G06N3/098 ,  G06N5/04 ,  G06N5/043 ,  H04W28/08 ,  G06F9/50

Abstract: 一种面向多模态深度学习模型的快速协同推断方法，涉及多模态深度学习模型。针对现有技术存在的面向计算密集性应用的异构多模态深度学习网络在资源紧缺的移动设备上部署时的高延迟和高能耗等问题，提供一种面向多模态深度学习模型的快速协同推断方法，利用强化学习算法动态优化无线移动边缘网络中多模态深度学习模型服务移动设备的协同推断策略。该策略适应计算密集型多模态深度学习应用具有多个异构特征编码器的特点，能在不显著降低推断质量的前提下，减少基于深度学习的多模态推断服务的时延和总体能耗。动态选择多模态深度学习模型各个特征编码器的分割点和深度学习模型规模，提高多模态深度学习模型推断的速度和能效。