[發明專利]動態反饋負載分發方法和裝置

無效

• 申請號: 200710166257.4
• 申請日: 2007-11-07
• 公開（公告）號: CN101174986A
• 公開（公告）日: 2008-05-07
• 發明（設計）人: 劉強
• 申請（專利權）人: 中興通訊股份有限公司
• 主分類號: H04L12/24
• 分類號: H04L12/24;H04L12/56;H04L1/22
• 代理公司: 北京康信知識產權代理有限責任公司
• 代理人: 尚志峰;吳孟秋

技術領域

本發明涉及通信領域，更具體地，涉及一種動態反饋負載分發方法和裝置。

背景技術

多目的端負載均衡是網絡系統中的常見技術，該技術提供了一種擴展服務器帶寬和增加服務器吞吐量的廉價有效方法，既可加強網絡數據處理能力，又可提高網絡的靈活性及可用性。其主要作用有兩點：保證高可靠性，一旦負載均衡的某目的端出現故障，其它目的端可以接替其工作；以及節約成本，不必額外使用熱備份技術保證可靠性而增加設備成本。

常見的負載均衡技術如下：輪詢(Simple?Round?Robin)方式和權重輪詢(Weighted?Round?Robin)方式。

一、輪詢方式

各目的端輪流處理請求消息。該方式對應用服務器的硬件環境、操作系統乃至應用軟件沒有要求，各目的端相對獨立；無需為實現負載均衡而增加軟硬件投資，是最簡單、最傳統的多目的端負載均衡方式，但該方式在功能和性能上存在如下問題：可靠性無法保證，當某目的端宕機，分發進程無法發現，例如在3臺目的端系統中，如1臺宕機，將有1/3消息無法響應，嚴重影響系統服務質量；以及負荷分擔不一定合理，各目的端性能可有差異，在性能不同的目的端間平均分配請求，性能差的目的端可能成為系統瓶頸，而性能好的目的端資源沒有被充分利用，造成投資浪費。

二、權重輪詢方式

權重輪詢是輪詢分發的改進版本，即為各個目的端配置不同權重，請求消息按權重比例分發到各個目的端。

雖然，上述方式規避了輪詢方式中因設備處理能力差異造成的“不公平”現象，但目的端的突發進程可能在某時間段內大量占用該設備的系統資源，權重輪詢方式無法檢測這種異常，從而影響處理性能。

發明內容

為了解決現有技術中的問題，本發明提出了一種動態反饋負載分發方法和裝置，用于在多個目的端與源端之間動態分發消息。

根據本發明的動態反饋負載分發方法包括以下步驟：步驟一，通過關鍵參數采集模塊收集多個目的端中的每個目的端的關鍵參數，并將關鍵參數發送至決策模塊；步驟二，決策模塊對關鍵參數進行分析，以確定每個目的端的處理能力；以及步驟三，當接收到來自源端的信息時，消息處理模塊根據保存在消息處理模塊中的關于每個目的端的處理能力來分發消息。

其中，關鍵參數是由CPU占用率、內存占用率、和消息隊列積壓長度構成的組合，或由消息隊列積壓長度、消息反饋時延、和超時消息個數構成的組合。

當目的端是可編程系統時，關鍵參數包括：CPU占用率、內存占用率、和消息隊列積壓長度，它們是目的端的本地數據，本地數據是通過以下方式提供給關鍵參數采集模塊的：反饋機制、通信、或共享數據庫。

當目的端是第三方系統時，關鍵參數包括：消息隊列積壓長度、消息反饋時延、和超時消息個數。

在步驟二中，執行以下處理：決策模塊得到每個目的端的一個負載指數；以及決策模塊根據負載指數判斷目的端的處理能力。

其中，負載指數與消息隊列積壓長度、消息反饋時延、和超時消息個數相關聯。負載指數小，則表示消息隊列積壓長度、消息反饋時延、或超時消息個數的延遲小，目的端的處理能力好。與消息隊列積壓長度相關聯的負載指數所表征的延遲能力最小，與超時消息個數相關聯的負載指數所表征的延遲能力最大，以及與消息反饋時延相關聯的負載指數所表征的延遲能力居中。

另外，在步驟二中還執行以下處理：通過一個過載檢測模塊確定目的端是否過載；當目的端過載時，過載檢測模塊向決策模塊發送一個過載處理命令，從而減少目的端的負載。

當每個目的端都過載時，則決策模塊進入降級模式，限制源端發送的消息的數量。

而當過載檢測模塊判斷每個目的端過載成斷鏈時，目的端不接收消息。

在步驟三中執行以下處理：消息處理模塊接收到來自源端的消息；消息處理模塊向決策模塊發出取決策指令；以及消息處理模塊根據決策模塊返回的關于每個目的端的處理能力來分發消息。

本發明還提供了一種動態反饋負載分發裝置，用于在多個目的端與源端之間動態分發消息，該裝置包括：關鍵參數采集模塊，用于收集多個目的端中的每個目的端的關鍵參數，并將關鍵參數發送至決策模塊；決策模塊，用于對關鍵參數進行分析，以確定每個目的端的處理能力，并將處理能力發送給消息處理模塊；以及消息處理模塊，用于接收來自源端的信息，并根據每個目的端的處理能力來分發消息。

另外，該裝置還包括：過載檢測模塊，用于分析關鍵參數，并根據關鍵參數配置門限來確定目的端是否過載。