[發(fā)明專利]流量調(diào)度方法、裝置和系統(tǒng)

有效

• 申請?zhí)枺?/td>: 201811058687.9
• 申請日: 2018-09-11
• 公開（公告）號: CN109450803B
• 公開（公告）日: 2022-05-31
• 發(fā)明（設(shè)計(jì)）人: 胡健;王剛;王俊杰
• 申請（專利權(quán)）人: 阿里巴巴（中國）有限公司
• 主分類號: H04L47/24
• 分類號: H04L47/24;H04L47/50;H04L47/6275
• 代理公司: 北京展翼知識產(chǎn)權(quán)代理事務(wù)所(特殊普通合伙) 11452
• 代理人: 張陽

1.一種流量調(diào)度方法，包括：

獲取多個(gè)進(jìn)程各自的待處理隊(duì)列長度，其中，每個(gè)進(jìn)程向共享隊(duì)列區(qū)更新其自身的待處理隊(duì)列長度；

使得待處理隊(duì)列長度高于或低于第一閾值的進(jìn)程基于不同規(guī)則搶占待分配請求；以及

使得待處理隊(duì)列長度高于第二閾值的進(jìn)程暫停搶占待分配請求，

其中，隊(duì)列長度位于所述第一閾值和所述第二閾值之間的進(jìn)程通過訪問所述共享隊(duì)列區(qū)確認(rèn)自己是否是隊(duì)列最短的前m個(gè)進(jìn)程之一，如果是，則該進(jìn)程參與請求搶占，如果不是，則不參與對新的請求的搶占。

2.如權(quán)利要求1所述的方法，其中，所述第一閾值是低水位閾值，所述第二閾值是高水位閾值。

3.如權(quán)利要求2所述的方法，其中，使得待處理隊(duì)列長度高于或低于第一閾值的進(jìn)程基于不同規(guī)則搶占待分配請求包括：

使得待處理隊(duì)列長度小于低水位閾值的進(jìn)程自由搶占待分配請求。

4.如權(quán)利要求2所述的方法，其中，使得待處理隊(duì)列長度高于或低于第一閾值的進(jìn)程基于不同規(guī)則搶占待分配請求包括：

使得待分配請求在待處理隊(duì)列長度小于低水位閾值的進(jìn)程之間平均分配。

5.如權(quán)利要求1所述的方法，其中，使得待處理隊(duì)列長度在高低水位閾值之間進(jìn)程基于其待處理隊(duì)列長度搶占待分配請求包括：

使得待處理隊(duì)列長度在高低水位閾值之間進(jìn)程中待處理隊(duì)列長度排位高于第三閾值的進(jìn)程參與搶占待分配請求。

6.如權(quán)利要求5所述的方法，其中，基于系統(tǒng)配置動態(tài)設(shè)置如下至少一個(gè)參數(shù)：

所述第一閾值；

所述第二閾值；

所述m的取值；以及

進(jìn)程個(gè)數(shù)。

7.如權(quán)利要求1所述的方法，還包括：

使得待處理隊(duì)列長度高于或低于至少一個(gè)第四閾值的進(jìn)程基于不同規(guī)則搶占待分配請求，其中，所述第四閾值大于第一閾值并且小于第二閾值。

8.一種業(yè)務(wù)處理系統(tǒng)，包括：

調(diào)度服務(wù)器，用于向多個(gè)業(yè)務(wù)服務(wù)器分配請求，其中，每個(gè)進(jìn)程向共享隊(duì)列區(qū)更新其自身的待處理隊(duì)列長度；

多個(gè)業(yè)務(wù)服務(wù)器，每個(gè)業(yè)務(wù)服務(wù)器接收由調(diào)度服務(wù)器分配的請求并使用多個(gè)進(jìn)程執(zhí)行分配的請求，并且所述請求在多個(gè)進(jìn)程間的調(diào)度包括：

獲取多個(gè)進(jìn)程各自的待處理隊(duì)列長度；

使得待處理隊(duì)列長度高于或低于第一閾值的進(jìn)程基于不同規(guī)則搶占待分配請求；以及

使得待處理隊(duì)列長度高于第二閾值的進(jìn)程暫停搶占待分配請求，

其中，隊(duì)列長度位于所述第一閾值和所述第二閾值之間的進(jìn)程通過訪問所述共享隊(duì)列區(qū)確認(rèn)自己是否是隊(duì)列最短的前m個(gè)進(jìn)程之一，如果是，則該進(jìn)程參與請求搶占，如果不是，則不參與對新的請求的搶占。

9.如權(quán)利要求8所述的系統(tǒng)，其中，所述第一閾值是低水位閾值，所述第二閾值是高水位閾值，并且所述業(yè)務(wù)服務(wù)器用于：

使得待處理隊(duì)列長度小于低水位閾值的進(jìn)程自由搶占待分配請求。

10.如權(quán)利要求9所述的系統(tǒng)，其中，所述業(yè)務(wù)服務(wù)器在所有進(jìn)程的待處理隊(duì)列長度都大于第二閾值的情況下拒絕由所述調(diào)度服務(wù)器新分配的請求。

11.一種流量調(diào)度裝置，包括：

隊(duì)列長度獲取單元，用于獲取多個(gè)進(jìn)程各自的待處理隊(duì)列長度，其中，每個(gè)進(jìn)程向共享隊(duì)列區(qū)更新其自身的待處理隊(duì)列長度；

進(jìn)程規(guī)則設(shè)定單元，用于使得待處理隊(duì)列長度高于或低于第一閾值的進(jìn)程基于不同規(guī)則搶占待分配請求，并且使得待處理隊(duì)列長度高于第二閾值的進(jìn)程暫停搶占待分配請求，

其中，隊(duì)列長度位于所述第一閾值和所述第二閾值之間的進(jìn)程通過訪問所述共享隊(duì)列區(qū)確認(rèn)自己是否是隊(duì)列最短的前m個(gè)進(jìn)程之一，如果是，則該進(jìn)程參與請求搶占，如果不是，則不參與對新的請求的搶占。