一种微服务动态伸缩及迁移方法和装置

    公开(公告)号:CN112988398B

    公开(公告)日:2022-08-26

    申请号:CN202110452672.6

    申请日:2021-04-26

    Abstract: 本发明实施例提供了一种微服务动态伸缩及迁移方法和装置,涉及云计算技术领域,收集每个微服务的运行状态信息;如果平均调用延迟满足预设条件,将微服务标记为待优化微服务;如果平均资源利用率大于第一预设阈值或者小于第二预设阈值,将微服务标记为待优化微服务;获取待优化服务对应的目标资源利用率、当前资源利用率、容忍度、当前副本数以及调整窗口;并当目标资源利用率、当前资源利用率和容忍度满足调整条件时,计算待优化服务对应的目标副本数;将与待优化微服务之间亲和度最高的其他微服务作为待优化微服务的迁移服务;利用目标副本数进行扩容,或者,利用目标副本数进行缩容;利用迁移服务进行迁移操作。能够提高微服务的可靠性。

    一种基于深度强化学习的资源分配方法及装置

    公开(公告)号:CN111444009A

    公开(公告)日:2020-07-24

    申请号:CN201911117328.0

    申请日:2019-11-15

    Abstract: 本发明实施例提供了一种基于深度强化学习的资源分配方法及装置,方法包括:确定用户的应用程序请求中包含的多种待分配资源的服务,以及各服务的分配优先级;确定当前边缘微云系统的状态参数,状态参数包括资源均衡度评估参数,响应延迟评估参数,以及每个微云中各个计算节点的资源剩余量;将状态参数输入预先训练完成的资源均衡优化模型,得到第一服务的第一目标计算节点;资源均衡优化模型是基于深度强化学习训练完成的,将第一服务部署于第一目标计算节点;更新状态参数,返回参数输入步骤,直到应用程序请求中包含的每种待分配资源的服务均完成资源分配。相比于传统的资源分配方法,既能够满足通信延迟需求,又能达到较高的资源利用均衡度。

    一种冗余服务部署方法及装置

    公开(公告)号:CN110896344A

    公开(公告)日:2020-03-20

    申请号:CN201911117330.8

    申请日:2019-11-15

    Abstract: 本发明实施例提供了一种冗余服务部署方法及装置,确定用户的应用程序请求中包含的多种待部署服务,每种待部署服务的资源需求,以及各待部署服务之间的通信延迟需求;每种待部署服务包括多个服务副本;基于预设的服务放置规则,为每种待部署服务的各个服务副本分配物理机节点,筛选出多个可用放置决策;根据各待部署服务的服务副本所放置的物理机节点的可靠度,以及微云的可靠度,计算该可用放置决策的可靠度;从可用放置决策中确定最终放置决策;基于最终放置决策,在微云的物理机节点中部署相应的待部署服务。从而综合考虑了应用程序的每种服务的资源需求,服务间通信需求,物理机节点的可靠度,微云的可靠度因素,保证服务部署的高可靠性。

    一种基于深度强化学习的资源分配方法及装置

    公开(公告)号:CN111444009B

    公开(公告)日:2022-10-14

    申请号:CN201911117328.0

    申请日:2019-11-15

    Abstract: 本发明实施例提供了一种基于深度强化学习的资源分配方法及装置,方法包括:确定用户的应用程序请求中包含的多种待分配资源的服务,以及各服务的分配优先级;确定当前边缘微云系统的状态参数,状态参数包括资源均衡度评估参数,响应延迟评估参数,以及每个微云中各个计算节点的资源剩余量;将状态参数输入预先训练完成的资源均衡优化模型,得到第一服务的第一目标计算节点;资源均衡优化模型是基于深度强化学习训练完成的,将第一服务部署于第一目标计算节点;更新状态参数,返回参数输入步骤,直到应用程序请求中包含的每种待分配资源的服务均完成资源分配。相比于传统的资源分配方法,既能够满足通信延迟需求,又能达到较高的资源利用均衡度。

    一种微服务动态伸缩及迁移方法和装置

    公开(公告)号:CN112988398A

    公开(公告)日:2021-06-18

    申请号:CN202110452672.6

    申请日:2021-04-26

    Abstract: 本发明实施例提供了一种微服务动态伸缩及迁移方法和装置,涉及云计算技术领域,收集每个微服务的运行状态信息;如果平均调用延迟满足预设条件,将微服务标记为待优化微服务;如果平均资源利用率大于第一预设阈值或者小于第二预设阈值,将微服务标记为待优化微服务;获取待优化服务对应的目标资源利用率、当前资源利用率、容忍度、当前副本数以及调整窗口;并当目标资源利用率、当前资源利用率和容忍度满足调整条件时,计算待优化服务对应的目标副本数;将与待优化微服务之间亲和度最高的其他微服务作为待优化微服务的迁移服务;利用目标副本数进行扩容,或者,利用目标副本数进行缩容;利用迁移服务进行迁移操作。能够提高微服务的可靠性。

    一种冗余服务部署方法及装置

    公开(公告)号:CN110896344B

    公开(公告)日:2021-03-19

    申请号:CN201911117330.8

    申请日:2019-11-15

    Abstract: 本发明实施例提供了一种冗余服务部署方法及装置,确定用户的应用程序请求中包含的多种待部署服务,每种待部署服务的资源需求,以及各待部署服务之间的通信延迟需求;每种待部署服务包括多个服务副本;基于预设的服务放置规则,为每种待部署服务的各个服务副本分配物理机节点,筛选出多个可用放置决策;根据各待部署服务的服务副本所放置的物理机节点的可靠度,以及微云的可靠度,计算该可用放置决策的可靠度;从可用放置决策中确定最终放置决策;基于最终放置决策,在微云的物理机节点中部署相应的待部署服务。从而综合考虑了应用程序的每种服务的资源需求,服务间通信需求,物理机节点的可靠度,微云的可靠度因素,保证服务部署的高可靠性。

Patent Agency Ranking