基于负载均衡的综合式限流方法

    公开(公告)号:CN119052245B

    公开(公告)日:2025-03-04

    申请号:CN202411555599.5

    申请日:2024-11-04

    Abstract: 本发明涉及通信技术领域,具体公开了一种基于负载均衡的综合式限流方法,通过使用负载均衡或者分布式服务,可以将多个请求信息均匀的分发到多个后端服务器上,这确保了每个后端服务器都能处理一部分请求,可以避免单个后端服务器因负载过高而成为瓶颈,从而提高整个系统的处理能力;通过获取多个后端服务器的限流状态,并根据限流状态组合运用多层次限流策略、分布式限流策略和自适应限流策略,能够更灵活、更有效的对流量进行控制,可形成一套完整的限流体系,提高系统的稳定性和可扩展性,可适应不同的流量模式和突发情况,避免在某些情况下无法有效控制流量,导致服务拒绝的情况发生。

    基于令牌桶算法的限流方法、限流装置及电子设备

    公开(公告)号:CN115941610B

    公开(公告)日:2025-02-25

    申请号:CN202211584492.4

    申请日:2022-12-09

    Inventor: 龚敏 朱进

    Abstract: 本发明实施例提供一种基于令牌桶算法的限流方法、限流装置及电子设备,属于访问请求限流控制技术领域。该方法包括:首先接收访问请求,然后比较令牌桶中的令牌数量和令牌容量,如果令牌数量小于令牌容量,则在令牌桶中新增一个令牌,基于令牌桶中的令牌处理访问请求;如果令牌数量大于或等于令牌容量,则将访问请求丢弃。该方法通过比较令牌桶中的令牌数量和令牌容量,向令牌桶中新增令牌,如果可以新增令牌则对访问请求进行处理,如果不可以新增令牌则丢弃该访问请求。当堆积的正在处理的访问请求较多时,会直接丢弃新的访问请求,从而减少服务器的访问请求堆积的情况,提高服务器处理访问请求的效率。

    数据处理方法
    14.
    发明授权

    公开(公告)号:CN119155252B

    公开(公告)日:2025-02-21

    申请号:CN202411594968.1

    申请日:2024-11-08

    Abstract: 本说明书实施例提供数据处理方法,其中所述数据处理方法包括:接收用户发送的数据传输请求,其中,所述数据传输请求包括用户对应的用户标识,所述用户标识对应至少一个虚拟化网络标识;根据所述用户标识确定所述用户对应的令牌桶;基于所述令牌桶判断所述数据传输请求是否通过,并在所述数据传输请求为通过的情况下传输所述数据传输请求中携带的待处理数据。该方法通过用户标识设置令牌桶,减少了对每个虚拟网络单独维护令牌桶造成的大量存储资源的需求,提高了资源利用效率,避免了资源浪费或不足的问题。

    一种Rados Gateway的细粒度QoS控制方法

    公开(公告)号:CN113709063B

    公开(公告)日:2025-01-21

    申请号:CN202110894080.X

    申请日:2021-08-05

    Abstract: 本发明公开一种Rados Gateway的细粒度QoS控制方法,涉及网络服务技术领域,包括:开放设置Qos、查询Qos以及删除Qos的API接口;通过API接口,管理员向Rados Gateway发送请求,设置针对用户级别和桶级别两种粒度的QoS,同时记录两种粒度的QoS状态并进行持久化;发送请求后,依次检测两种粒度的QoS,进行请求的处理;请求处理完毕后,归还该请求占用的令牌数。本发明通过用户和桶两种细粒度的QoS,可以更合理的控制资源分配,无需单独开辟线程每秒向令牌桶中添加令牌,通过记录最早令牌时间的方式,将添加令牌的过程放在每次消耗和释放令牌之前的检测里,用少量的存储空间换取了计算时间和减少了cpu消耗,提高了QoS的效率。

    流量限制方法、装置、设备及存储介质

    公开(公告)号:CN119254702A

    公开(公告)日:2025-01-03

    申请号:CN202411418230.X

    申请日:2024-10-11

    Abstract: 本申请提供一种流量限制方法、装置、设备及存储介质。涉及计算机技术领域。该方法包括:接收第一设备发送的第一访问请求,第一访问请求用于请求访问目标系统;根据访问请求,确定目标系统的当前访问量;若当前访问量大于或等于第一阈值,则根据第一访问请求,确定第一设备的设备类型,设备类型为第一类型或者第二类型,第一类型用于指示第一设备在当前时刻之前的预设时长内访问过目标系统,第二类型用于指示第一设备在当前时刻之前的预设时长内未访问过目标系统;根据第一设备的设备类型,对第一访问请求进行处理。提高了流量限制的灵活性。

    令牌桶更新方法、装置、电子设备及存储介质

    公开(公告)号:CN115297061B

    公开(公告)日:2024-12-24

    申请号:CN202210899897.0

    申请日:2022-07-28

    Inventor: 李伟民

    Abstract: 本公开提供了令牌桶更新方法、装置、电子设备及存储介质。通过令牌的管理机制,限制令牌的可用性、通过实时令牌汇总缓存信息,按照多维度对令牌的使用进行管理且通过二级缓存机制,降低对数据库依赖。从而实现系统能力最大化挖掘,动态灵活调整令牌,缓存实时高效管理令牌的流量控制机制。从而可以根据后台处理能力的变化,同步动态实现扩缩容量或者准实时调整的能力。在交易量激增、流量激增的场景,当系统具有相当的处理能力时,可以动态扩容避免部分性能的浪费。

    负载均衡方法、装置、计算机设备、存储介质和产品

    公开(公告)号:CN115334082B

    公开(公告)日:2024-12-10

    申请号:CN202210957691.9

    申请日:2022-08-10

    Abstract: 本申请涉及一种负载均衡方法、装置、计算机设备、存储介质和产品,可用于金融科技领域或其他相关领域,该方法包括:获取服务提供方自身的设备状态信息,并基于设备状态信息确定令牌生成速率以及令牌桶的容量;按照令牌生成速率生成令牌,并在令牌桶中令牌的数量少于令牌桶的容量的情况下,将令牌存储到令牌桶中;令牌用于指示对接收到的处理请求进行处理,基于令牌桶中令牌的数量与令牌桶的容量的比值,得到服务提供方的均衡系数,并向服务消费方发送均衡系数,以供服务消费方基于各服务提供方的均衡系数确定目标服务提供方后触发目标服务提供方,从令牌桶中获取令牌,并分配给服务消费方发送的处理请求。采用本方法能够降低处理请求的丢失率。

    一种基于令牌桶的元数据操作流控方法

    公开(公告)号:CN119094453A

    公开(公告)日:2024-12-06

    申请号:CN202411238912.2

    申请日:2024-10-12

    Abstract: 本发明公开一种基于令牌桶的元数据操作流控方法,涉及数据管理技术领域;包括:步骤1:定义令牌和令牌桶:通过令牌桶存放令牌,声明令牌桶结构,令牌桶结构包含添加令牌总数、令牌锁、可用令牌数量、添加令牌周期、令牌桶容量和等待令牌队列,声明获取令牌接口和添加令牌接口,步骤2:定义流控逻辑:通过获取令牌接口使客户端获取令牌之后执行元数据操作请求的处理逻辑,通过添加令牌接口控制令牌桶内令牌的数量,步骤3:为客户端的元数据操作添加流控逻辑,控制客户端对集群存储节点的计算资源占用。

    基于切面的流量控制方法及装置
    20.
    发明公开

    公开(公告)号:CN119094452A

    公开(公告)日:2024-12-06

    申请号:CN202411183946.6

    申请日:2024-08-27

    Abstract: 本发明公开了一种基于切面的流量控制方法及装置,可用于金融科技领域,其中该方法包括:获取用户发送的业务请求,业务请求包括请求交易码和流量控制注解;根据请求交易码和流量控制注解,匹配出对应的目标流量控制切面;将目标流量控制切面织入业务请求,并基于目标流量控制切面内的目标流量控制逻辑,本发明能够根据流量变化动态调整切面策略,提高了灵活性和动态调整能力;基于切面的流量控制方法采用高效的算法和数据结构,以最小的性能开销实现对流量的控制;与业务代码解耦,不需要修改原始代码,实现对流量的精确控制,从而降低延迟并提升业务效率,具有低侵入性、动态性、灵活性、高性能的特点。

Patent Agency Ranking