-
公开(公告)号:CN116166336B
公开(公告)日:2025-05-30
申请号:CN202310136701.7
申请日:2023-02-20
Applicant: 东南大学
Abstract: 本发明公开了一种用于边缘计算环境中面向多视角推理应用的任务卸载方法,属于边缘计算和深度学习领域。本发明的核心逻辑包括:首先构建边缘环境下多视角推理任务的执行框架并合理划分和部署多视角推理模型;然后采集边缘计算环境中计算资源与通信资源的性能特征;接着结合边缘环境下多视角推理任务执行框架构建最小化任务完成时间的优化模型;最后提出多视角推理的任务卸载算法,最小化任务的执行时间,进而满足低时延的应用需求。本发明主要解决多视角推理任务特殊的执行模式导致在传统任务卸载方法下多视角推理任务执行中出现算力或带宽较强终端等待算力或带宽较弱终端的问题,以及其导致终端资源利用率低,多视角推理任务执行效率受限的问题。
-
公开(公告)号:CN113723279A
公开(公告)日:2021-11-30
申请号:CN202111000951.5
申请日:2021-08-30
Applicant: 东南大学
Abstract: 本发明公开了一种边缘计算环境中基于时空间优化的多目标跟踪加速方法,属于边缘计算、视频分析和深度学习领域。该方法包括:步骤1、利用TensorRT推理优化框架对执行多目标跟踪的深度神经网络模型进行结构优化;步骤2、使用基于时空间优化的实时多目标跟踪算法执行模式对多目标跟踪任务执行进行加速;步骤3、针对基于时空间优化的实时多目标跟踪算法中特征提取部分的深度学习推理,建立并求解自适应的端边协同数据并行模型;步骤4、基于步骤3所执行的端边协同数据并行模型,将其结果在进行合并并完成后处理计算,输出多目标跟踪结果。本方法的应用提升了目前目标跟踪视频分析系统的执行速度并最大化利用了系统内的计算资源。
-
公开(公告)号:CN110061927A
公开(公告)日:2019-07-26
申请号:CN201910344246.3
申请日:2019-04-26
Applicant: 东南大学
IPC: H04L12/801
Abstract: 本发明公开了一种多队列数据中心环境中基于显示拥塞通知(ECN)的标记方法,主要解决传统ECN无法感知微突发流、无法适应动态网络的问题。本发明主要包含三个部分,分别是ECN阈值下界计算、阈值基值设置和阈值动态调整。本发明首先针对多队列数据中心环境下微突发流的产生和传输过程进行稳态分析,为每一个交换队列求解出ECN阈值的下界,保证交换机队列缓冲区能够有效地吸收微突发流。然后基于理想的Generic Packet Schedule(GPS)模型,对ECN阈值下界进行调整并为每个队列设置阈值基值,保证交换队列的入队速率和出队速率平衡,最后,基于提高网络吞吐量的目标,针对交换机内存资源建立队列缓冲区最大化利用的优化模型,提出ECN阈值动态调整算法。
-
公开(公告)号:CN109831321A
公开(公告)日:2019-05-31
申请号:CN201910008291.1
申请日:2019-01-04
Applicant: 东南大学
Abstract: 本发明公开了一种数据中心中RDMA应用传输参数自适应选择方法,该方法包括以下步骤:步骤(1)分析和采集RDMA应用传输参数选择相关的应用特性以及服务器资源状态;步骤(2)构建基于应用特性和服务器资源状态的RDMA传输参数组合选择决策树模型,自适应地给不同应用选择最佳的RDMA传输参数组合;步骤(3)将步骤(2)得到的决策树模型以及RDMA通信编程的参数选择过程封装成通用的API给应用使用。该方法通过理论分析和实验构造应用可用的RDMA传输参数组合,根据应用特性和服务器资源状态建立RDMA传输参数组合选择决策树模型,为应用提供最佳的RDMA传输参数选择,从而优化RDMA应用的性能,同时降低RDMA应用开发难度和开发周期,赋能数据中心新型延迟敏感应用创新。
-
公开(公告)号:CN116996419A
公开(公告)日:2023-11-03
申请号:CN202310824298.7
申请日:2023-07-06
Applicant: 东南大学 , 江苏金恒信息科技股份有限公司
IPC: H04L43/087 , H04L41/0631 , H04L41/16 , G06N3/126
Abstract: 本发明公开了一种数据中心网络中轻量级传输时延抖动监控的方法及系统,首先解析数据中心网络中传输终端操作系统内核态的网络传输操作,分层对应执行关键点;然后向终端操作系统内核态的网络传输的执行关键点添加监控点,实现执行时间的监控和性能抖动归属的监控;在执行网络传输任务的过程中,分析当前监控点的开销与获得的性能收益,并根据结果调整监控模块的函数数量以及监控不同产生频率的函数,以降低监控点的开销对传输任务的影响。本方法能够对终端操作系统内核态中影响传输时延的操作执行细粒度的监控,并通过动态调整监控粒度降低监控点的开销,可用于传输时延抖动的实时监控、指引传输性能优化方向等功能。
-
公开(公告)号:CN113723279B
公开(公告)日:2022-11-01
申请号:CN202111000951.5
申请日:2021-08-30
Applicant: 东南大学
Abstract: 本发明公开了一种边缘计算环境中基于时空间优化的多目标跟踪加速方法,属于边缘计算、视频分析和深度学习领域。该方法包括:步骤1、利用TensorRT推理优化框架对执行多目标跟踪的深度神经网络模型进行结构优化;步骤2、使用基于时空间优化的实时多目标跟踪算法执行模式对多目标跟踪任务执行进行加速;步骤3、针对基于时空间优化的实时多目标跟踪算法中特征提取部分的深度学习推理,建立并求解自适应的端边协同数据并行模型;步骤4、基于步骤3所执行的端边协同数据并行模型,将其结果在进行合并并完成后处理计算,输出多目标跟踪结果。本方法的应用提升了目前目标跟踪视频分析系统的执行速度并最大化利用了系统内的计算资源。
-
公开(公告)号:CN114662661A
公开(公告)日:2022-06-24
申请号:CN202210282401.5
申请日:2022-03-22
Applicant: 东南大学
Abstract: 本发明公开一种边缘计算下异构处理器加速多出口DNN(Deep Neural Networks)推理的方法,首先针对不同负载下的CPU与GPU,分别统计深度神经网络各层在CPU、GPU上的计算成本、各层提前退出分支出口的分类能力以及各网络层中间数据量大小;然后分析数据,得出特定负载情况下,将深度神经网络各层分配给CPU(GPU)处理器的最优并行组合模型;最后在终端设备上在线监测分析CPU、GPU的负载情况、以及当前的计算能力,以最小化推理时延为目标对深度神经网络推理任务进行切分,任务切块分别被分配在GPU与CPU,最终形成基于异构处理器的推理加速框架。此种方法能够提高推理的灵活性,保证准确率,降低推理总时延,满足边缘智能应用的实时性与高精度需求。
-
公开(公告)号:CN109905329B
公开(公告)日:2021-06-08
申请号:CN201910007824.4
申请日:2019-01-04
Applicant: 东南大学
IPC: H04L12/851 , H04L12/863 , H04L12/865 , H04L12/911
Abstract: 本发明公开了一种虚拟化环境下任务类型感知的流队列自适应管理方法,该方法包含:(1)接收来自管理员的指令,若为流调度策略移除指令,则开始流调度移除功能,若该命令为流调度策略部署指令,则开始流调度策略部署功能;(2)基于不同流的元数据信息感知任务类型,判断流所属的任务类型是否为带宽敏感型或是延迟敏感型;(3)在虚拟化层将不同类型任务的流映射到内核模块中不同的Qdisc队列,实现对不同类型任务的流的网络传输性能的隔离和管理;(4)实时统计不同任务类型的流负载情况,根据负载对不同队列之间的传输权重进行自适应调整和优化。该方法能够感知任务类型并对流队列进行自适应管理,有效提高虚拟化环境下任务的网络传输性能。
-
公开(公告)号:CN118115531A
公开(公告)日:2024-05-31
申请号:CN202211513314.2
申请日:2022-11-29
Applicant: 中国移动通信有限公司研究院 , 东南大学 , 中国移动通信集团有限公司
IPC: G06T7/246 , G06V10/764
Abstract: 本发明提供一种多目标跟踪方法、装置及终端,涉及通信技术领域。该方法包括:将原始图像数据按照第一切分粒度进行切分,得到多个数据集;将所述多个数据集输入分类器模型进行图像内容复杂程度预测,并对预测得到的预测结果进行分类;按照分类后的预测结果对所述多个数据集进行分类,并向服务器发送分类后的数据集;接收所述服务器发送的多目标跟踪结果;其中,所述多目标跟踪结果是将所述分类后的数据集按照不同分类对应的分支跟踪模型推理得到的,且不同分类对应的分支跟踪模型的计算量不同。本发明能够解决目前的多目标跟踪方法存在计算冗余、图片传输开销大以及推理延迟的问题。
-
公开(公告)号:CN110740054B
公开(公告)日:2022-04-01
申请号:CN201910644115.7
申请日:2019-07-17
Applicant: 东南大学
IPC: H04L41/12 , H04L41/06 , H04L41/14 , H04L41/142
Abstract: 本发明公开一种基于强化学习的数据中心虚拟化网络故障诊断方法,包括如下步骤:步骤1,初始化网络故障诊断模型;步骤2,根据设定的故障诊断目标,采用强化学习算法训练Q表,所述Q表记录了每种故障下采取每个动作获得的累计折扣奖励值;步骤3,故障发生时,将网络状态信息映射到Q表中的网络状态,根据网络状态查询Q表,依据奖励值最大原则选择动作作为故障诊断结果;步骤4,使用信息增益方法进一步优化网络状态空间,降低模型内存使用开销同时提高诊断精度。此种方法将故障感知过程放置在信息采集服务器降低信息采集开销,同时使用强化学习算法构建网络故障诊断模型,再使用信息增益方法进一步优化故障诊断模型,提高了故障诊断精度。
-
-
-
-
-
-
-
-
-