[發(fā)明專利]云計(jì)算系統(tǒng)中集群速率限制的方法和系統(tǒng)

有效

• 申請(qǐng)?zhí)枺?/td>: 201980048136.0
• 申請(qǐng)日: 2019-02-15
• 公開（公告）號(hào): CN112425129B
• 公開（公告）日: 2022-04-12
• 發(fā)明（設(shè)計(jì)）人: 陳洪武;傅貴;胡振華;張志珂
• 申請(qǐng)（專利權(quán)）人: 華為云計(jì)算技術(shù)有限公司
• 主分類號(hào): H04L47/215
• 分類號(hào): H04L47/215;H04L41/0896;H04L47/25;H04L67/1023;H04L47/22;H04L49/90;H04L47/10;H04L47/20;H04L67/10
• 代理公司: 暫無信息
• 代理人: 暫無信息

1.一種計(jì)算機(jī)實(shí)現(xiàn)的對(duì)云計(jì)算系統(tǒng)中的服務(wù)實(shí)例集群進(jìn)行速率限制的方法，其特征在于，所述方法包括：

速率限制控制器接收用于為多個(gè)速率限制器中的每一個(gè)速率限制器確定令牌分發(fā)的請(qǐng)求，每個(gè)速率限制器與所述服務(wù)實(shí)例集群中的一個(gè)相關(guān)，所述多個(gè)速率限制器中的每一個(gè)速率限制器對(duì)所述服務(wù)實(shí)例集群中的對(duì)應(yīng)一個(gè)的服務(wù)實(shí)例進(jìn)行速率限制；

所述速率限制控制器為所述多個(gè)速率限制器中的每一個(gè)速率限制器確定所述令牌分發(fā)，所述令牌分發(fā)包括最大令牌數(shù)量和令牌生成速率；

所述速率限制控制器向所述多個(gè)速率限制器中的每一個(gè)速率限制器輸出所述最大令牌數(shù)量和所述令牌生成速率；

從所述多個(gè)速率限制器中的至少給定的一個(gè)速率限制器接收對(duì)附加令牌的至少一個(gè)請(qǐng)求；

根據(jù)所述請(qǐng)求以及根據(jù)所述多個(gè)速率限制器中的至少所述給定的一個(gè)速率限制器的令牌消耗信息，向所述多個(gè)速率限制器中的所述給定的一個(gè)速率限制器輸出調(diào)整的令牌分發(fā)。

2.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述調(diào)整的令牌分發(fā)是根據(jù)所述多個(gè)速率限制器的總體令牌消耗信息確定的。

3.根據(jù)權(quán)利要求1或2所述的方法，其特征在于，為所述多個(gè)速率限制器中的每一個(gè)速率限制器確定所述令牌分發(fā)包括確定要分配給所述多個(gè)速率限制器的總令牌數(shù)量，所述總令牌數(shù)量小于或等于所述多個(gè)速率限制器的最大可用令牌數(shù)量。

4.根據(jù)權(quán)利要求3所述的方法，其特征在于，為多個(gè)速率限制維度中的每一個(gè)速率限制維度確定要分配給所述多個(gè)速率限制器的總令牌數(shù)量。

5.根據(jù)權(quán)利要求3所述的方法，其特征在于，確定所述令牌分發(fā)還包括通過計(jì)算所述最大可用令牌數(shù)量與所述總令牌數(shù)量之間的差值來獲得剩余令牌數(shù)量。

6.根據(jù)權(quán)利要求5所述的方法，其特征在于，確定所述令牌分發(fā)包括確定要分配給所述多個(gè)速率限制器的總令牌生成速率，所述總令牌生成速率小于或等于所述多個(gè)速率限制器的最大令牌生成速率。

7.根據(jù)權(quán)利要求6所述的方法，其特征在于，確定所述令牌分發(fā)還包括通過計(jì)算所述最大令牌生成速率與所述總令牌生成速率之間的差值來獲得剩余令牌生成速率。

8.根據(jù)權(quán)利要求1至7中的任一項(xiàng)所述的方法，其特征在于，確定所述令牌分發(fā)包括：

確定第一服務(wù)實(shí)例集群的多個(gè)速率限制的總令牌數(shù)量，所述總令牌數(shù)量小于或等于所述第一服務(wù)實(shí)例集群的最大令牌數(shù)量；

確定所述多個(gè)速率限制的總令牌生成速率，所述總令牌生成速率小于或等于所述第一服務(wù)實(shí)例集群的最大令牌生成速率；

從所述多個(gè)速率限制中的每一個(gè)速率限制的所述最大令牌數(shù)量和所述最大令牌生成速率中確定多個(gè)速率限制器中的每一個(gè)速率限制器的所述令牌分發(fā)。

9.根據(jù)權(quán)利要求8所述的方法，其特征在于，所述多個(gè)速率限制中的每一個(gè)速率限制是對(duì)多個(gè)速率限制維度中的給定的一個(gè)速率限制維度進(jìn)行速率限制。

10.根據(jù)權(quán)利要求5所述的方法，其特征在于，調(diào)整所述令牌分發(fā)包括：

根據(jù)所述剩余令牌數(shù)量和所述多個(gè)速率限制器中的至少所述給定的一個(gè)速率限制器的所述令牌消耗信息，確定針對(duì)所述最大令牌數(shù)量要提供給所述多個(gè)速率限制器中的所述給定的一個(gè)速率限制器的附加令牌數(shù)量；

將所述剩余令牌數(shù)量減少所述附加令牌數(shù)量；

對(duì)于所述多個(gè)速率限制器中的所述給定的一個(gè)速率限制器，將所述最大令牌數(shù)量增加所述附加令牌數(shù)量。

11.根據(jù)權(quán)利要求10所述的方法，其特征在于，確定所述附加令牌數(shù)量包括：根據(jù)所述多個(gè)速率限制器的總體令牌消耗信息確定要提供給所述多個(gè)速率限制器中的所述給定的一個(gè)速率限制器的所述附加令牌數(shù)量。