[發(fā)明專利]一種服務(wù)器集群的服務(wù)能力控制方法和系統(tǒng)

有效

• 申請?zhí)枺?/td>: 201110288537.9
• 申請日: 2011-09-26
• 公開（公告）號: CN103023938A
• 公開（公告）日: 2013-04-03
• 發(fā)明（設(shè)計）人: 鄭南
• 申請（專利權(quán)）人: 阿里巴巴集團控股有限公司
• 主分類號: H04L29/08
• 分類號: H04L29/08;H04L12/24;H04L12/811
• 代理公司: 北京潤澤恒知識產(chǎn)權(quán)代理有限公司 11319
• 代理人: 蘇培華;趙娟

技術(shù)領(lǐng)域

本申請涉及服務(wù)器集群的技術(shù)領(lǐng)域，特別是涉及一種服務(wù)器集群的服務(wù)能力控制方法和系統(tǒng)。

背景技術(shù)

目前，各類大型企業(yè)、大型網(wǎng)站都采用服務(wù)器集群進行資源管理。所謂服務(wù)器集群，就是指將多臺服務(wù)器集中起來進行同一種服務(wù)，在客戶端看來就像是只有一個服務(wù)器。集群可以利用多個計算機進行并行計算從而獲得很高的計算速度，也可以用多個計算機做備份，即使其中一個機器出現(xiàn)故障，整個搜索服務(wù)器集群仍然能正常運行。

每個服務(wù)器集群有自己的服務(wù)極限，在面臨超出自己服務(wù)能力的流量時，會導(dǎo)致搜索服務(wù)器集群進入部分不可服務(wù)狀態(tài)，甚至完全不可服務(wù)狀態(tài)。例如，搜索服務(wù)器集群資源耗盡，將導(dǎo)致所有的請求都不能完成或者全部超時；，搜索服務(wù)器集群被迫隨機或者根據(jù)優(yōu)先級拋棄部分請求。然而，在一些大型網(wǎng)站的應(yīng)用中，尤其是在某些消費者對消費者(Customer-to-Customer，C2C)模式的電子商務(wù)網(wǎng)站中，由于商品數(shù)量巨大，用戶數(shù)量眾多，在商品搜索的過程中，面對超過服務(wù)能力的突發(fā)流量時，如果突然發(fā)生服務(wù)中斷，將嚴重影響用戶體驗。

現(xiàn)有技術(shù)中，對于超過服務(wù)能力的突發(fā)流量時，一般采用丟棄部分請求的方式，具體為隨機丟棄請求，或者根據(jù)來源、查詢模式按照配置的優(yōu)先級逐步丟棄不重要的請求，盡量確保重要的請求。但這種方式總是會導(dǎo)致服務(wù)的部分不可用。

現(xiàn)有技術(shù)的另一種應(yīng)對超過服務(wù)能力的突發(fā)流量的方式是在集群中添加服務(wù)器，然而這種方式的缺點是反應(yīng)慢，尤其是因為突發(fā)超過服務(wù)能力的流量一般來說是非正常的增長，在添加機器時，機器的準備以及數(shù)據(jù)的同步都需要時間，在這段時間內(nèi)可能導(dǎo)致搜索服務(wù)器集群進入部分服務(wù)不可用的狀態(tài)，并且，在機器添加過程中還需要人工介入，不夠智能，反應(yīng)滯后，不能快速應(yīng)對突發(fā)的流量尖峰。

因此，目前需要本領(lǐng)域技術(shù)人員迫切解決的一個技術(shù)問題就是：提出一種服務(wù)器集群的服務(wù)能力控制機制，用以快速應(yīng)對超過服務(wù)能力的突發(fā)流量，并確保服務(wù)不中斷。

發(fā)明內(nèi)容

本申請所要解決的技術(shù)問題是，提供一種服務(wù)器集群的服務(wù)能力控制方法和系統(tǒng)，用以快速應(yīng)對超過服務(wù)能力的突發(fā)流量，并確保服務(wù)不中斷。

為了解決上述問題，本申請公開了一種服務(wù)器集群的服務(wù)能力控制方法，包括：

監(jiān)控集群中服務(wù)器的服務(wù)狀態(tài)信息，并判斷所述服務(wù)狀態(tài)信息是否超過預(yù)設(shè)閾值；

若是，則按照所述服務(wù)狀態(tài)信息確定在后的服務(wù)請求所分發(fā)的服務(wù)器數(shù)量，所述在后服務(wù)請求所分發(fā)的服務(wù)器數(shù)量小于所述服務(wù)狀態(tài)信息未超過預(yù)設(shè)閾值時服務(wù)請求所分發(fā)的服務(wù)器數(shù)量；

按照所述在后服務(wù)請求所分發(fā)的服務(wù)器數(shù)量，按照預(yù)置規(guī)則確定集群中相應(yīng)數(shù)量的目標服務(wù)器；

將接收的服務(wù)請求分發(fā)至所述目標服務(wù)器。

優(yōu)選的，所述集群中包括分發(fā)查詢請求/合并查詢結(jié)果的服務(wù)器Merger，以及，提供查詢服務(wù)的服務(wù)器Searcher，其中，所述提供查詢服務(wù)的服務(wù)器Searcher采用行列式分布，一行M個提供查詢服務(wù)的服務(wù)器Searcher上的數(shù)據(jù)構(gòu)成一份完整數(shù)據(jù)，一列N個提供查詢服務(wù)的服務(wù)器Searcher上的數(shù)據(jù)是一致的；其中，M、N＞1且為整數(shù)。

優(yōu)選的，所述服務(wù)狀態(tài)信息為以下狀態(tài)信息中的至少一種：

提供查詢服務(wù)的服務(wù)器Searcher中的任務(wù)隊列長度；

提供查詢服務(wù)的服務(wù)器Searcher中的CPU負載情況；

提供查詢服務(wù)的服務(wù)器Searcher處理一個服務(wù)請求的平均時間。

優(yōu)選的，所述監(jiān)控集群中服務(wù)器的服務(wù)狀態(tài)信息，并判斷所述服務(wù)狀態(tài)信息是否超過預(yù)設(shè)閾值的步驟包括：

各臺提供查詢服務(wù)的服務(wù)器Searcher定時或?qū)崟r匯報其自身的服務(wù)狀態(tài)信息；

匯總所述各臺提供查詢服務(wù)的服務(wù)器Searcher匯報的服務(wù)狀態(tài)信息，根據(jù)匯總后的服務(wù)狀態(tài)信息，判斷所述是否超過預(yù)設(shè)閾值。

優(yōu)選的，所述在服務(wù)狀態(tài)信息超過預(yù)設(shè)閾值時，按照服務(wù)狀態(tài)信息確定在后的服務(wù)請求所分發(fā)的服務(wù)器數(shù)量的步驟包括：

在服務(wù)狀態(tài)信息超過預(yù)設(shè)閾值時，按照服務(wù)狀態(tài)信息確定對應(yīng)的服務(wù)降級級別；

根據(jù)所述服務(wù)降級級別確定在后的服務(wù)請求所分發(fā)的服務(wù)器數(shù)量。

優(yōu)選的，所述服務(wù)降級級別包括多個級別，各個服務(wù)降級級別分別具有對應(yīng)的服務(wù)器分發(fā)數(shù)量信息；

所述在服務(wù)狀態(tài)信息超過預(yù)設(shè)閾值時，按照服務(wù)狀態(tài)信息確定對應(yīng)的服務(wù)降級級別的步驟包括：