一种基于云边端协同的深度学习模型推理加速方法

    公开(公告)号:CN115034390A

    公开(公告)日:2022-09-09

    申请号:CN202210961978.9

    申请日:2022-08-11

    Abstract: 本发明公开了一种基于云边端协同的深度学习模型推理加速方法,具体涉及一种深度学习模型分层卸载方法。该方法通过对整个深度学习模型推理过程中的计算时延、数据传输时延、数据传播时延和模型分层卸载策略生成时延进行理论建模,并以计算任务响应时延最小为优化目标,决定最优深度学习模型的分层卸载策略。相较于以物理端为主导和以云计算中心为主导的深度学习模型执行框架,本方法通过将边缘计算范式和云计算结合起来,并将深度学习模型分层卸载至不同的边缘计算节点,在满足计算精度的前提下,实现计算任务响应时延最小化。

    基于深度强化学习的网络智能管控架构系统和运行方法

    公开(公告)号:CN114640568B

    公开(公告)日:2022-08-19

    申请号:CN202210536555.2

    申请日:2022-05-18

    Abstract: 本发明公开了基于深度强化学习的网络智能管控架构系统和运行方法,应用于网络内部的管理控制。其中架构系统由数据平面、控制平面以及管理平面组成。运行方法为:数据平面通过网络遥测技术探测网络中的各类数据,控制平面接收数据平面上传数据,通过深度强化学习技术进行在线决策并下发配置指令,数据平面接收指令对网络内设备进行处理。管理平面根据各分布式控制平面上传的网络状态数据进行学习,并将知识共享到各分布式控制平面。本发明基于深度强化学习技术,可实现网络内部的智能管控,有效提高网络内部资源利用率。

    局域网内快速通信方法
    14.
    发明公开

    公开(公告)号:CN114039811A

    公开(公告)日:2022-02-11

    申请号:CN202111209266.3

    申请日:2021-10-18

    Abstract: 本申请涉及一种局域网内快速通信方法。该方法包括:当接收到第一智能物端发送的建立虚拟通路请求时,从建立虚拟通路请求中提取出第一智能物端标识和第二智能物端标识;根据第一智能物端标识,获取第一智能物端最新上报的第一智能物端信息;根据第二智能物端标识,获取第二智能物端最新上报的第二智能物端信息;向第二智能物端发送第一智能物端信息,以及向第一智能物端发送第二智能物端信息,使第一智能终端与第二智能物端根据接收到的智能物端信息建立虚拟通路,虚拟通路建立后,虚拟通路作为第一智能终端与第二智能物端之间唯一通信路径。第一智能物端和第二智能物端的数据传输通过该虚拟通路直接传输,降低通信时延,提高数据传输的效率。

    一种数字孪生使能的工业物联网资源分配系统及方法

    公开(公告)号:CN117749635B

    公开(公告)日:2025-01-24

    申请号:CN202311759121.X

    申请日:2023-12-20

    Abstract: 本发明属于通信技术领域,涉及一种数字孪生使能的工业物联网资源分配系统及方法;方法为:构建数字孪生使能的工业物联网资源分配系统;在数字孪生层中联合考虑任务卸载设备关联决策、卸载决策、资源分配、任务比例分配并提出最小化系统成本的目标优化问题;将目标优化问题建模为多代理的马尔科夫决策问题;采用协同计算与资源分配CCRA算法求解马尔科夫决策问题,输出卸载策略,完成资源分配优化;本发明构建的系统有利于实现全局资源的统一调度与管理;减少边缘服务器的计算负荷,实现对大规模计算密集型和延迟敏感型任务的有效处理;方法中考虑了真实值与数字孪生估算值之间的偏差,并总结了系统因偏差而变化的规律。

    基于生成式AI的情感连接交互方法、系统及设备

    公开(公告)号:CN119166824A

    公开(公告)日:2024-12-20

    申请号:CN202411659611.7

    申请日:2024-11-20

    Abstract: 本发明属于人工智能技术领域,公开基于生成式AI的情感连接交互方法、系统及设备,所述方法包括:将获取的语音信息转换为语音文本,并实施分词处理,将词元映射至连续的向量空间,获得文本嵌入向量,利用声学特征提取技术对语音信息提取声学嵌入向量,将文本嵌入向量和声学嵌入向量通过基于注意力机制的卷积神经网络,确定语音信息的情感分类;对基于词典的分词算法处理后的数据进行自然语言处理,确定语音信息的话题领域;根据情感分类、话题领域、用户信息以及历史交互数据,生成用户情感反馈信息,实现文本与声学在特征级别的有效融合,避免了后期融合方法因不同处理框架所得分类结果可能存在的非互补性而导致的性能下降。

    D2D辅助MEC网络中的服务缓存和任务卸载联合优化方法及系统

    公开(公告)号:CN118102386A

    公开(公告)日:2024-05-28

    申请号:CN202410497345.6

    申请日:2024-04-24

    Abstract: 本发明涉及属于移动通信中的边缘计算技术领域,公开了一种D2D辅助MEC网络中的服务缓存和任务卸载联合优化方法及系统,考虑五种任务卸载模式,并进一步将任务卸载和服务缓存的联合优化问题表示为马尔可夫决策问题,利用改进的MAPPO算法训练模型,并据此获取最佳的任务卸载和资源分配策略,联合优化系统包括网络模块、服务缓存模块、任务卸载模块,网络模块包括云服务器、边缘服务器和终端设备。本发明实现了最小化系统时延和能耗。

Patent Agency Ranking