[發明專利]用于服務器集群處的高能效負載均衡的系統和方法

有效

• 申請號: 201010601571.2
• 申請日: 2010-12-20
• 公開（公告）號: CN102104626A
• 公開（公告）日: 2011-06-22
• 發明（設計）人: R·王;S·尤塔;T-Y·C·泰;C-F·辛;J-S·蔡
• 申請（專利權）人: 英特爾公司
• 主分類號: H04L29/08
• 分類號: H04L29/08
• 代理公司: 永新專利商標代理有限公司 72002
• 代理人: 劉瑜;王英

背景技術

如今，數據中心消耗了大量的能量，并且這種趨勢日益增加。在數據中心中，負載均衡器可放置在一組服務器(有時稱為服務器集群)或者其他數據處理單元的前面。負載均衡器可以負責將到來的請求分配給多個服務器。諸如隨機或者循環負載分派之類的傳統方法以分散的方式將到來的請求分配給活動的服務器。這些請求例如可以尋找數據庫環境中的數據，或者例如可以尋找分布式計算環境中的計算資源。在這種情況下，對于每個單獨的處理單元而言，請求頻繁地自負載均衡器到達，即使統計而言該單元可能大量時間是空閑的。因此，在處理單元可能表現為處于空閑時仍然會消耗能量。當進入和退出低功率狀態時存在著延時，例如，由于沒有立即進入或退出低功率狀態。在該延時時段期間，處理單元不進行任何處理，然而處理單元仍然會消耗比其嚴格處于低功率(或“休眠”)狀態時所消耗的更高的功率。因此，處理單元可能很少有機會進入深度低功率狀態。因此，數據中心的功耗會是相當高的。

為了獲得可伸縮性以及快速的響應時間，通常需要大量的處理單元(有時稱為集群)來處理請求(例如，HTTP請求)。負載均衡器例如可以位于服務器集群的前端，以便執行活動的服務器之間的負載分配。可將負載均衡應用于許多類型的處理單元，例如網絡服務器、應用程序服務器以及數據庫服務器。

在現代的數據中心中，集群中不是所有的處理單元在所有的時間都可以是活動的。當到來的業務變得繁重時，更多的處理單元會可以被調用；以及當業務輕時，將關閉一些處理單元以節省功率。對于活動的處理單元而言，目標使用率通常遠少于100％，以便提供良好的響應時間并為突然的請求突發預留容量空間。在目標使用率為60％的情況下，處理單元將空閑40％的時間。然而，如何隨著時間來分配空閑對處理單元能效具有很大的影響。

存在著多種方案來用于在活動的處理單元之間分配到來的請求。通常使用的方案包括：

1)隨機分派，其中將請求指派給由負載均衡器隨機選擇的活動的處理單元。平均而言，負載在處理單元之間均勻地分布。該方案可由各種哈希函數來實現；

2)循環分派，其中負載均衡器以循環為基礎將請求指派給活動的處理單元。這使得能夠均等地指派處理單元；以及

3)加權循環分派，其中將權重指派給組中的每個處理單元，以便更高容量的處理單元服務更多的請求。例如，負載均衡器可以在將一個請求指派給稍慢的處理單元時，指派兩個請求給更快的處理單元。

就能效而言，這些或相關方案的共同缺點是負載均衡器以分散的方式將到來的請求分配給活動的處理單元。在這種情況下，每個單獨的處理單元必須處理頻繁地來自負載均衡器的請求，即使統計而言其在大量時間是空閑的。因此，處理單元很少有機會進入深度低功率狀態。頻繁的喚醒使得處理單元從來都不能進入深度休眠狀態。

附圖說明

圖1是根據一個實施方式示出了處理單元集群的拓撲的框圖。

圖2示出了一個實施方式中的到處理單元的請求的時序和分布。

圖3示出了一個實施方式中的批量處理和低功率狀態的時序。

圖4是示出了一個實施方式的總體操作的流程圖。

圖5是根據一個實施方式示出了請求的接收和批量的組織的流程圖。

圖6是根據一個實施方式示出了批量大小的自適應修改的流程圖。

圖7是示出了一個實施方式的操作的流程圖。

圖8是示出了軟件或固件實施方式的框圖。

附圖中，附圖標記中最左邊的數字標識該附圖標記首次出現于其中的附圖。

具體實施方式

本文討論了以允許低功率的處理單元周期的方式、在一組處理單元(諸如服務器)之間均衡負載的方法和系統。這允許處理單元的高能效操作。而且，該過程可以適應于系統響應時間的改變，使得當運行條件如此規定時可以改善系統響應時間。

圖1示出了一組處理單元120-122(諸如服務器集群)的示例。這些處理單元一起工作以服務到來的請求105。請求105在負載均衡器110處被接收到。然后，負載均衡器以下面描述的方式將請求分配給處理單元。