Pulsarbundles的负载均衡方法及装置与流程

未命名 09-23 阅读:63 评论:0

pulsar bundles的负载均衡方法及装置
技术领域
1.本技术涉及计算机技术领域,具体涉及一种pulsar bundles的负载均衡方法及装置。


背景技术:

2.pulsar系统以bundle为粒度实现负载均衡。但pulsar bundles场景中,现有技术是通过人的经验值进行设定调度,实现负载均衡。
3.因此,现有pulsar bundles的负载均衡方法存在对broker节点的调度不灵活,负载均衡的效果较差等不足。


技术实现要素:

4.本技术实施例提供一种pulsar bundles的负载均衡方法及装置,用以解决pulsar bundles的负载均衡的效果较差的技术问题。
5.第一方面,本技术实施例提供一种pulsar bundles的负载均衡方法,包括:
6.基于第(n+a)时刻每一broker节点的资源负载参数,获取所述每一broker节点第(n+a)时刻的资源综合负载率;
7.基于所述每一broker节点第n至(n+a)时刻的资源综合负载率和所述资源负载参数,对所述每一broker节点进行调度;
8.其中,所述资源负载参数,包括cpu、内存、直接内存、入口带宽、出口带宽和磁盘的资源使用率中的任意多个;n和a为正整数。
9.在一个实施例中,所述基于所述每一broker节点第n至(n+a)时刻的资源综合负载率和所述资源负载参数,对所述每一broker节点进行调度之后,还包括:
10.基于各broker节点第n至(n+a)时刻的资源综合负载率,对各所述broker节点进行调度。
11.在一个实施例中,所述基于各broker节点第n至(n+a)时刻的资源综合负载率,对各所述broker节点进行调度之后,还包括:
12.获取各所述broker节点的bundles的卸载操作的操作日志。
13.在一个实施例中,所述基于所述每一broker节点第n至(n+a)时刻的资源综合负载率和所述资源负载参数,对所述每一broker节点进行调度,包括:
14.基于所述每一broker节点第n至(n+a)时刻的资源综合负载率和资源负载参数,与预设的阈值进行比较,确定所述每一broker节点在第n至(n+a)时刻内,资源综合负载率和资源负载参数中的至少一项超过的阈值的时刻的第一数量;
15.基于所述第一数量,对所述每一broker节点进行调度。
16.在一个实施例中,所述基于所述第一数量,对所述每一broker节点进行调度,包括:
17.在所述数量大于(a/2)+1情况下,对所述每一broker节点的bundles进行卸载操
作。
18.在一个实施例中,所述基于各broker节点第n至(n+a)时刻的资源综合负载率,对各所述broker节点进行调度,包括:
19.基于各broker节点第n至(n+a)时刻的资源综合负载率,获取各broker节点第n至(n+a)时刻的资源平均使用率;
20.基于各broker节点第n至(n+a)时刻的资源平均使用率中的最大值与最小值之差,对各所述broker节点进行调度。
21.第二方面,本技术实施例提供一种pulsar bundles的负载均衡装置,包括:
22.负载获取模块,用于基于第(n+a)时刻每一broker节点的资源负载参数,获取所述每一broker节点第(n+a)时刻的资源综合负载率;
23.第一调度模块,用于基于所述每一broker节点第n至(n+a)时刻的资源综合负载率和所述资源负载参数,对所述每一broker节点进行调度;
24.其中,所述资源负载参数,包括cpu、内存、直接内存、入口带宽、出口带宽和磁盘的资源使用率中的任意多个;n和a为正整数。
25.第三方面,本技术实施例提供一种电子设备,包括处理器和存储有计算机程序的存储器,所述处理器执行所述程序时实现第一方面或所述的pulsar bundles的负载均衡方法。
26.第四方面,本技术实施例提供一种计算机程序产品,包括计算机程序,所述计算机程序被处理器执行时实现第一方面所述的pulsar bundles的负载均衡方法。
27.第五方面,本技术实施例提供一种非暂态计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现第一方面所述的pulsar bundles的负载均衡方法。
28.本技术实施例提供的pulsar bundles的负载均衡方法及装置,基于定向资源的多维度阈值和资源计算优化解决单一阈值导致的误判问题,通过定向多维度负载的阈值配置解决了默认unload阈值比较难达到流量都集中在几个broker节点上、流量不均衡和阈值调整标准难以确定等问题,能提高负载均衡的效果。并且,基于时间窗口的阈值判断保障bundles的卸载的判断标准更加准确,减少不必要的卸载操作,保障pulsar集群的稳定性和性能。
附图说明
29.为了更清楚地说明本技术或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍,显而易见地,下面描述中的附图是本技术的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
30.图1是本技术实施例提供的pulsar bundles的负载均衡方法的流程示意图;
31.图2是本技术实施例提供的bundles轨迹跟踪步骤的流程示意图;
32.图3是本技术实施例提供的节点间调度的流程示意图;
33.图4是本技术实施例提供的pulsar bundles的负载均衡装置的结构示意图;
34.图5是本技术实施例提供的电子设备的结构示意图。
具体实施方式
35.为使本技术的目的、技术方案和优点更加清楚,下面将结合本技术实施例中的附图,对本技术中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本技术一部分实施例,而不是全部的实施例。基于本技术中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本技术保护的范围。
36.图1是本技术实施例提供的pulsar bundles的负载均衡方法的流程示意图。参照图1,本技术实施例提供一种pulsar bundles的负载均衡方法,可以包括:步骤101和步骤102。
37.具体地,pulsar bundles的负载均衡方法的执行主体,可以是pulsar bundles的负载均衡装置。
38.步骤101、基于第(n+a)时刻每一broker节点的资源负载参数,获取每一broker节点第(n+a)时刻的资源综合负载率;其中,资源负载参数,包括cpu、内存、直接内存、入口带宽、出口带宽和磁盘的资源使用率中的任意多个;n和a为正整数。
39.具体地,步骤101之前,对于可以每一broker节点,可以先获取各采样时刻(以下可以简称“时刻”)该broker节点的资源负载参数。broker节点的资源负载参数,用于表征该broker节点的多维度负载。
40.可以基于第(n+a)时刻每一broker节点的资源负载参数,以及各资源负载参数对应的权重,通过加权平均的方法,得到该broker节点第(n+a)时刻的资源综合负载率。
41.可选地,在资源负载参数包括cpu、内存、直接内存、入口带宽、出口带宽和磁盘的资源使用率的情况下,p={p
cpu
,p
mem
,p
dmem
,p
in
,p
out
,p
io
}分别表示cpu、内存(memory)、直接内存(directmemory)、入口(in)网络(bandwithin)、出口(out)网络(bandwithout)和磁盘(io)的资源使用率的权重,即p
cpu
+p
mem
+p
dmem
+p
in
+p
out
+p
io
=1。
42.例如,一个pulsar集群部署有7台服务器(即broker节点),分别为f={f0,f1,f2,f3,f4,f5,f6},fi表示第i台服务器,l(fi)表示第fi台服务器的资源综合负载率。
43.则l(fi)的计算公式为:
44.l(fi)=l(f
cpu
)*p
cpu
+l(f
mem
)*p
mem
+l(f
dmem
)*p
dmem
+l(f
in
)*p
in
+l(f
in
)*p
in
+l(f
io
)*p
io
45.其中,f
cpu
,f
mem
,f
dmem
,f
in
,f
out
,f
io
分别表示cpu、内存、直接内存、入口带宽、出口带宽和磁盘的资源使用率。
46.通过上述公式可以对整个pulsar集群的7台服务器进行当前的负载计算,说明l(fi)值最小的服务器有更多的能力接收更多的bundles。
47.步骤102、基于每一broker节点第(n+1)至(n+a)时刻的资源综合负载率和资源负载参数,对每一broker节点进行调度;
48.具体地,基于时间窗口内的多个资源使用率通过算法判断是否需要进行卸载(unload)操作,以实现负载均衡。通过摒弃传统的瞬时资源使用率的计算方案,使bundles的unload的判断标准更加准确,减少不必要的unload操作,保障pulsar集群的稳定性和性能。
49.在当前时刻为第(n+a)时刻的情况下,该时间窗口的结束时刻为第(n+a)时刻。
50.通过一个滑动的固定大小的时间窗口,可以每次通过计算时间窗口内的最新
window size的数据来计算对应broker节点是否需要执行unload操作。
51.可选地,是pulsar bundles的负载均衡装置,可以是loadmanager节点。其中,loadmanager节点可以是pulsar集群中的主broker节点。
52.可选地,时间窗口固定大小ws(window size),默认为5,可以根据实际的服务器资源对窗口大小进行配置,建议配置为奇数。ws=a。
53.可选地,时间窗口随着时间的推移向前滑动,该窗口内只保存最新的ws条数据,最新的资源使用率信息加入时,需要剔窗口内最老的信息。每个broker节点可以定时上报整个时间窗口内的数据到注册中心,以便loadmanager几点对pulsar集群中所有broker节点的负载数据进行计算和决策。
54.可选地,loadmanager节点可以通过task读取每个broker的资源使用率,通过算法进行判断对应节点的bundles是否需要进行unload操作。
55.可以理解的是,通过定向资源的阈值配置和分散计算的方式保障不同资源类型可以自由灵活的决定其预警和unload的界限。
56.可以理解的是,可以根据每台服务器实际的硬件配置可以设置不同的阈值(即unload阈值)。
57.示例性地,broker节点的cpu的资源使用率的unload阈值
58.loadbalancercpuoverloadedthresholdpercentage=85
59.broker节点的memory的资源使用率的unload阈值
60.loadbalancermemoryoverloadedthresholdpercentage=90
61.broker节点的directmemory的资源使用率的unload阈值
62.loadbalancerdirectmenoverloadedthresholdpercentage=70
63.broker节点的bandwithin的资源使用率的unload阈值
64.loadbalancerbandwithinoverloadedthresholdpercentage=80
65.broker节点的bandwithout的资源使用率的unload阈值
66.loadbalancerbandwithoutoverloadedthresholdpercentage=80
67.broker节点的磁盘资源使用率的unload阈值
68.loadbalancerbandwithoutoverloadedthresholdpercentage=85
69.broker节点的资源综合负载率的unload阈值
70.loadintegratedoverloadedthresholdpercentage=80。
71.本技术实施例基于定向资源的多维度阈值和资源计算优化解决单一阈值导致的误判问题,通过定向多维度负载的阈值配置解决了默认unload阈值比较难达到流量都集中在几个broker节点上、流量不均衡和阈值调整标准难以确定等问题,能提高负载均衡的效果。并且,基于时间窗口的阈值判断保障bundles的卸载的判断标准更加准确,减少不必要的卸载操作,保障pulsar集群的稳定性和性能。
72.基于上述任一实施例的内容,基于每一broker节点第(n+1)至(n+a)时刻的资源综合负载率和资源负载参数,对每一broker节点进行调度之后,还包括:基于各broker节点第(n+1)至(n+a)时刻的资源综合负载率,对各broker节点进行调度。
73.具体地,每个节点通过算法计算当前(即每个时刻)节点的平均资源使用率,然后把平均负载上传到注册中心。
74.定时检测集群的平均负载情况,对节点间负载差异较大的broker节点进行自动均衡,保障每台服务器资源都得到合理的使用,集群性能达到最大化。
75.本技术实施例通过所有节点的平均负载值,对比高负载和低负载之间的差距,根据差值阈值触发自动均衡机制,防止broker节点重启后,长时间没有流量均衡到该broker节点上。
76.基于上述任一实施例的内容,基于各broker节点第(n+1)至(n+a)时刻的资源综合负载率,对各broker节点进行调度之后,还包括:获取各broker节点的bundles的卸载操作的操作日志。
77.具体地,优化后bundles的所有unload操作都不仅输入到日志文件中,还会通过轨迹的方式展示给管理人员,可以通过链图、轨迹地图的方式可以展示bundles的整个生命周期的信息。
78.如图2所示,具体实现过程可以如下:
79.1)在pulsar集群内在启动是自动创建一个topic为inner_bundles_trace。
80.当有bundles发生unload时,除了打印日志外,还发送一条事件message到inner_bundles_trace中,message中包括bundles的id、发生时间、unload的原因、事件发生时当前broker的各类型资源的使用率、所属namespace等信息。
81.2)运维平台可以查询pulsar集群所有的bundles列表信息,进入到每个bundles详情时可以展示当前bundles的所有unload的实践轨迹信息,可以以链图、轨迹地图等方式进行展示,在地图上每个节点的unload时的资源使用率自动生成相关告警。
82.通过内部topic自动存储bundles的unload事件信息,不需要额外的存储介质。
83.管理人员对bundles的unload信息、轨迹、以及告警做到可看、可跟踪、可管理、可自动告警。
84.本技术实施例能实现对bundles的轨迹跟踪对,bundles的卸载信息、轨迹、以及告警做到可看、可跟踪、可管理、可自动告警,能避免卸载事件难以查询、不可控制的情况。
85.基于上述任一实施例的内容,基于每一broker节点第(n+1)至(n+a)时刻的资源综合负载率和资源负载参数,对每一broker节点进行调度,包括:基于每一broker节点第(n+1)至(n+a)时刻的资源综合负载率和资源负载参数,与预设的阈值进行比较,确定每一broker节点在第(n+1)至(n+a)时刻内,资源综合负载率和资源负载参数中的至少一项超过的阈值的时刻的第一数量。
86.具体地,第一数量的计算公式如下:
[0087][0088]
其中,hn为半数大小;ws为窗口大小;σ(l(fi))为当前节点综合负载的对比值,σ(l(fi))=1表示l(fi)超过资源综合负载率的阈值,σ(l(fi))=0表示l(fi)未超过资源综合负载率的阈值;表示每个类型的资源使用率是否超过对应的阈值的对比值,超过阈值则否则n={cpu、mem、dmem、bandwithin、bandwithout、io}。
[0089]
基于第一数量,对每一broker节点进行调度。
[0090]
具体地,支持可配置的多维度阈值和策略处理机制,根据第一数量与ws之间的比例关系,对该broker节点进行调度。
[0091]
本技术实施例基于时间窗口的阈值判断保障bundles的卸载的判断标准更加准确,减少不必要的卸载操作,保障pulsar集群的稳定性和性能。
[0092]
基于上述任一实施例的内容,基于第一数量,对每一broker节点进行调度,包括:在数量大于(a/2)+1情况下,对每一broker节点的bundles进行卸载操作。
[0093]
具体地,判断f(i)的值,若f(i)》=ws/5+1,在单个server节点资源综合负载滑动窗口内,如果有超过1/5的资源负载值超过了阈值,当前服务器对应的broker触发禁止新建机制,无法在当前server创建新的bundles。
[0094]
判断f(i)的值,若f(i)》=ws/3+1,在单个server节点资源综合负载滑动窗口内,如果有超过1/3的资源负载值超过了阈值,当前服务器对应点的broker触发对禁止接收漂移bundles机制:
[0095]
1)无法在当前server创建新的bundles;
[0096]
2)不接收其他broker卸载的bundles。
[0097]
可以理解的是,该server变更为高负载状态。
[0098]
判断f(i)的值,若f(i)》=ws/2+1,在单个server节点资源综合负载滑动窗口内,如果有超过1/2的资源负载值超过了阈值,当前服务器对应点的broker触发unload高流量的bundles机制:
[0099]
1)无法在当前server创建新的bundles;
[0100]
2)不接收其他broker卸载的bundles;
[0101]
3)对该server节点所有的bundles的流量进行排序,unload一定量的bundles到负载低的服务器上,直到负载达到阈值以下。
[0102]
本技术实施例基于时间窗口的阈值判断保障bundles的卸载的判断标准更加准确,减少不必要的卸载操作,保障pulsar集群的稳定性和性能。
[0103]
基于上述任一实施例的内容,基于各broker节点第(n+1)至(n+a)时刻的资源综合负载率,对各broker节点进行调度,包括:基于各broker节点第(n+1)至(n+a)时刻的资源综合负载率,获取各broker节点第(n+1)至(n+a)时刻的资源平均使用率。
[0104]
具体地,通过所有节点的平均负载值(时间滑动窗口内),对比高负载和低负载之间的差距,如果超过设置的差值(默认50%,可配置),则触发自动均衡机制,自动均衡机制可以解决broker节点重启后,长时间没有流量均衡到该broker节点上的问题。
[0105]
每个节点通过算法计算当前节点的平均资源使用率,然后把平均负载上报到元数据中心,平均资源使用率公式如下:
[0106][0107]
其中,l
(favg)
为当前server总的资源平均使用率。
[0108]
l
(favg)
计算步骤如下:
memory)的概率。
[0124]
下面对本技术实施例提供的pulsar bundles的负载均衡装置进行描述,下文描述的pulsar bundles的负载均衡装置与上文描述的pulsar bundles的负载均衡方法可相互对应参照。
[0125]
图4是本技术实施例提供的pulsar bundles的负载均衡装置的结构示意图。基于上述任一实施例的内容,如图4所示,该装置包括负载获取模块401和第一调度模块402,其中:
[0126]
负载获取模块401,用于基于第(n+a)时刻每一broker节点的资源负载参数,获取每一broker节点第(n+a)时刻的资源综合负载率;
[0127]
第一调度模块402,用于基于每一broker节点第(n+1)至(n+a)时刻的资源综合负载率和资源负载参数,对每一broker节点进行调度;
[0128]
其中,资源负载参数,包括cpu、内存、直接内存、入口带宽、出口带宽和磁盘的资源使用率中的任意多个;n和a为正整数。
[0129]
具体地,负载获取模块401和第一调度模块402可以电连接。
[0130]
负载获取模块401可以对基于第(n+a)时刻每一broker节点的资源负载参数进行加权求和,获取该broker节点第(n+a)时刻的资源综合负载率。
[0131]
第一调度模块402可以通过一个滑动的固定大小的时间窗口,loadmanager节点每次通过计算时间窗口内的最新window size的数据来计算对应broker是否需要执行unload操作。
[0132]
可选地,该pulsar bundles的负载均衡装置,可以还包括:
[0133]
第二调度模块,用于基于各broker节点第(n+1)至(n+a)时刻的资源综合负载率,对各broker节点进行调度。
[0134]
可选地,该pulsar bundles的负载均衡装置,可以还包括:
[0135]
跟踪模块,用于获取各broker节点的bundles的卸载操作的操作日志。
[0136]
可选地,第一调度模块402可以包括:
[0137]
第一获取单元,用于基于每一broker节点第(n+1)至(n+a)时刻的资源综合负载率和资源负载参数,与预设的阈值进行比较,确定每一broker节点在第(n+1)至(n+a)时刻内,资源综合负载率和资源负载参数中的至少一项超过的阈值的时刻的第一数量;
[0138]
第一调度单元,用于基于第一数量,对每一broker节点进行调度。
[0139]
可选地,调度单元,可以具体用于在数量大于(a/2)+1情况下,对每一broker节点的bundles进行卸载操作。
[0140]
可选地,第二调度模块可以包括:
[0141]
第二获取单元,用于基于各broker节点第(n+1)至(n+a)时刻的资源综合负载率,获取各broker节点第(n+1)至(n+a)时刻的资源平均使用率;
[0142]
第二调度单元,用于基于各broker节点第(n+1)至(n+a)时刻的资源平均使用率中的最大值与最小值之差,对各broker节点进行调度。
[0143]
本技术实施例提供的pulsar bundles的负载均衡装置,用于执行本技术上述各实施例的pulsar bundles的负载均衡方法,其实施方式与本技术上述实施例各提供的pulsar bundles的负载均衡方法的实施方式一致,且可以达到相同的有益效果,此处不再赘述。
[0144]
该pulsar bundles的负载均衡装置用于前述各实施例的pulsar bundles的负载均衡方法。因此,在前述各实施例中的pulsar bundles的负载均衡方法中的描述和定义,可以用于本技术实施例中各执行模块的理解。
[0145]
本技术实施例基于定向资源的多维度阈值和资源计算优化解决单一阈值导致的误判问题,通过定向多维度负载的阈值配置解决了默认unload阈值比较难达到流量都集中在几个broker节点上、流量不均衡和阈值调整标准难以确定等问题,能提高负载均衡的效果。并且,基于时间窗口的阈值判断保障bundles的卸载的判断标准更加准确,减少不必要的卸载操作,保障pulsar集群的稳定性和性能。
[0146]
图5是本技术实施例提供的电子设备的结构示意图,如图5所示,该电子设备可以包括:处理器(processor)510、通信接口(communication interface)520、存储器(memory)530和通信总线540,其中,处理器510,通信接口520,存储器530通过通信总线540完成相互间的通信。处理器510可以调用存储器530中的计算机程序,以执行pulsar bundles的负载均衡方法的步骤,例如包括:基于第(n+a)时刻每一broker节点的资源负载参数,获取每一broker节点第(n+a)时刻的资源综合负载率;基于每一broker节点第n至(n+a)时刻的资源综合负载率和资源负载参数,对每一broker节点进行调度;其中,资源负载参数,包括cpu、内存、直接内存、入口带宽、出口带宽和磁盘的资源使用率中的任意多个;n和a为正整数。
[0147]
此外,上述的存储器530中的逻辑指令可以通过软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本技术的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本技术各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:u盘、移动硬盘、只读存储器(rom,read-only memory)、随机存取存储器(ram,random access memory)、磁碟或者光盘等各种可以存储程序代码的介质。
[0148]
本技术实施例提供的电子设备中的处理器510可以调用存储器530中的逻辑指令,其实施方式与本技术提供的pulsar bundles的负载均衡方法的实施方式一致,且可以达到相同的有益效果,此处不再赘述。
[0149]
另一方面,本技术实施例还提供一种计算机程序产品,所述计算机程序产品包括计算机程序,所述计算机程序可存储在非暂态计算机可读存储介质上,所述计算机程序被处理器执行时,计算机能够执行上述各实施例所提供的pulsar bundles的负载均衡方法的步骤,例如包括:基于第(n+a)时刻每一broker节点的资源负载参数,获取每一broker节点第(n+a)时刻的资源综合负载率;基于每一broker节点第n至(n+a)时刻的资源综合负载率和资源负载参数,对每一broker节点进行调度;其中,资源负载参数,包括cpu、内存、直接内存、入口带宽、出口带宽和磁盘的资源使用率中的任意多个;n和a为正整数。
[0150]
本技术实施例提供的计算机程序产品被执行时,实现上述pulsar bundles的负载均衡方法,其具体的实施方式与前述方法的实施例中记载的实施方式一致,且可以达到相同的有益效果,此处不再赘述。
[0151]
另一方面,本技术实施例还提供一种处理器可读存储介质,所述处理器可读存储介质存储有计算机程序,所述计算机程序用于使处理器执行上述各实施例提供的方法的步
骤,例如包括:基于第(n+a)时刻每一broker节点的资源负载参数,获取每一broker节点第(n+a)时刻的资源综合负载率;基于每一broker节点第n至(n+a)时刻的资源综合负载率和资源负载参数,对每一broker节点进行调度;其中,资源负载参数,包括cpu、内存、直接内存、入口带宽、出口带宽和磁盘的资源使用率中的任意多个;n和a为正整数。
[0152]
本技术实施例提供的非暂态计算机可读存储介质上存储的计算机程序被执行时,实现上述pulsar bundles的负载均衡方法,其具体的实施方式与前述方法的实施例中记载的实施方式一致,且可以达到相同的有益效果,此处不再赘述。
[0153]
所述处理器可读存储介质可以是处理器能够存取的任何可用介质或数据存储设备,包括但不限于磁性存储器(例如软盘、硬盘、磁带、磁光盘(mo)等)、光学存储器(例如cd、dvd、bd、hvd等)、以及半导体存储器(例如rom、eprom、eeprom、非易失性存储器(nand flash)、固态硬盘(ssd))等。
[0154]
以上所描述的装置实施例仅仅是示意性的,其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性的劳动的情况下,即可以理解并实施。
[0155]
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到各实施方式可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件。基于这样的理解,上述技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品可以存储在计算机可读存储介质中,如rom/ram、磁碟、光盘等,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行各个实施例或者实施例的某些部分所述的方法。
[0156]
最后应说明的是:以上实施例仅用以说明本技术的技术方案,而非对其限制;尽管参照前述实施例对本技术进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本技术各实施例技术方案的精神和范围。

技术特征:
1.一种pulsar bundles的负载均衡方法,其特征在于,包括:基于第(n+a)时刻每一broker节点的资源负载参数,获取所述每一broker节点第(n+a)时刻的资源综合负载率;基于所述每一broker节点第(n+1)至(n+a)时刻的资源综合负载率和所述资源负载参数,对所述每一broker节点进行调度;其中,所述资源负载参数,包括cpu、内存、直接内存、入口带宽、出口带宽和磁盘的资源使用率中的任意多个;n和a为正整数。2.根据权利要求1所述的pulsar bundles的负载均衡方法,其特征在于,所述基于所述每一broker节点第(n+1)至(n+a)时刻的资源综合负载率和所述资源负载参数,对所述每一broker节点进行调度之后,还包括:基于各broker节点第(n+1)至(n+a)时刻的资源综合负载率,对各所述broker节点进行调度。3.根据权利要求2所述的pulsar bundles的负载均衡方法,其特征在于,所述基于各broker节点第(n+1)至(n+a)时刻的资源综合负载率,对各所述broker节点进行调度之后,还包括:获取各所述broker节点的bundles的卸载操作的操作日志。4.根据权利要求1所述的pulsar bundles的负载均衡方法,其特征在于,所述基于所述每一broker节点第(n+1)至(n+a)时刻的资源综合负载率和所述资源负载参数,对所述每一broker节点进行调度,包括:基于所述每一broker节点第(n+1)至(n+a)时刻的资源综合负载率和资源负载参数,与预设的阈值进行比较,确定所述每一broker节点在第(n+1)至(n+a)时刻内,资源综合负载率和资源负载参数中的至少一项超过的阈值的时刻的第一数量;基于所述第一数量,对所述每一broker节点进行调度。5.根据权利要求4所述的pulsar bundles的负载均衡方法,其特征在于,所述基于所述第一数量,对所述每一broker节点进行调度,包括:在所述数量大于(a/2)+1情况下,对所述每一broker节点的bundles进行卸载操作。6.根据权利要求2所述的pulsar bundles的负载均衡方法,其特征在于,所述基于各broker节点第(n+1)至(n+a)时刻的资源综合负载率,对各所述broker节点进行调度,包括:基于各broker节点第(n+1)至(n+a)时刻的资源综合负载率,获取各broker节点第(n+1)至(n+a)时刻的资源平均使用率;基于各broker节点第(n+1)至(n+a)时刻的资源平均使用率中的最大值与最小值之差,对各所述broker节点进行调度。7.一种pulsar bundles的负载均衡装置,其特征在于,包括:负载获取模块,用于基于第(n+a)时刻每一broker节点的资源负载参数,获取所述每一broker节点第(n+a)时刻的资源综合负载率;第一调度模块,用于基于所述每一broker节点第n至(n+a)时刻的资源综合负载率和所述资源负载参数,对所述每一broker节点进行调度;其中,所述资源负载参数,包括cpu、内存、直接内存、入口带宽、出口带宽和磁盘的资源使用率中的任意多个;n和a为正整数。
8.一种电子设备,包括处理器和存储有计算机程序的存储器,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至6任一项所述的pulsar bundles的负载均衡方法。9.一种非暂态计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至6任一项所述的pulsar bundles的负载均衡方法。10.一种计算机程序产品,包括计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至6任一项所述的pulsar bundles的负载均衡方法。

技术总结
本申请涉及计算机技术领域,提供一种Pulsar bundles的负载均衡方法及装置。所述方法包括:基于第(n+a)时刻每一Broker节点的资源负载参数,获取每一Broker节点第(n+a)时刻的资源综合负载率;基于每一Broker节点第(n+1)至(n+a)时刻的资源综合负载率和资源负载参数,对每一Broker节点进行调度;其中,资源负载参数,包括CPU、内存、直接内存、入口带宽、出口带宽和磁盘的资源使用率中的任意多个;n和a为正整数。本申请实施例提供的Pulsar bundles的负载均衡方法及装置,基于定向资源的多维度阈值和资源计算优化解决单一阈值导致的误判问题,能提高负载均衡的效果。能提高负载均衡的效果。能提高负载均衡的效果。


技术研发人员:王娟 李睿 邓超 徐磊
受保护的技术使用者:中国移动通信集团有限公司
技术研发日:2022.03.14
技术公布日:2023/9/22
版权声明

本文仅代表作者观点,不代表航家之家立场。
本文系作者授权航家号发表,未经原创作者书面授权,任何单位或个人不得引用、复制、转载、摘编、链接或以其他任何方式复制发表。任何单位或个人在获得书面授权使用航空之家内容时,须注明作者及来源 “航空之家”。如非法使用航空之家的部分或全部内容的,航空之家将依法追究其法律责任。(航空之家官方QQ:2926969996)

航空之家 https://www.aerohome.com.cn/

飞机超市 https://mall.aerohome.com.cn/

航空资讯 https://news.aerohome.com.cn/

分享:

扫一扫在手机阅读、分享本文

相关推荐