[發明專利]一種依據TCP請求質量評估的負載均衡調度系統和方法

在審

• 申請號: 201810778644.1
• 申請日: 2018-07-16
• 公開（公告）號: CN108984306A
• 公開（公告）日: 2018-12-11
• 發明（設計）人: 羅意;談加虎
• 申請（專利權）人: 廣發證券股份有限公司
• 主分類號: G06F9/50
• 分類號: G06F9/50
• 代理公司: 暫無信息
• 代理人: 暫無信息

一種依據TCP請求質量評估的負載均衡調度系統和方法，其特征在于：所述系統包括：服務發現模塊、負載均衡組件模塊、主調業務模塊和被調業務模塊，被調業務模塊包括若干個被調業務進程子模塊,其優點是1)能夠從應用層對TCP長連接進行多維度的質量評估，從而反映業務實時的負載狀態。2)能夠依據業務實時負載狀態進行負載均衡，能夠更好的分配請求，同時應用服務器的擴容、縮容對于上層用戶來說都是無感知的。3)無鎖化設計使負載均衡組件高效率運行，對業務影響最小。4)通過對TCP連接狀態的管理，能夠在毫秒內發現應用服務的狀態，從而將新增(或刪除)的應用加入(或踢出)。

技術領域

本發明涉及傳輸控制規程，涉及具備負載均衡、路由容災和高性能要求的分布式后臺系統，尤指一種依據TCP請求質量評估的負載均衡調度系統和方法。

背景技術

當一臺服務器的性能達到極限時，可以使用服務器集群來提高網站的整體性能。在服務器集群中，需要有一個調度者的角色，接收用戶的所有請求，然后根據每臺服務器的負載情況將請求分配給某一臺后端服務器去處理。在這個過程中，調度者如何合理分配任務，保證所有后端服務器都將性能充分發揮，從而保持服務器集群的整體性能最優，這就是負載均衡問題。現有技術的負載均衡調度有如下方法：

一、輪詢法

將請求按順序輪流地分配到后端服務器上，它均衡地對待后端的每一臺服務器，而不關心服務器實際的連接數和當前的系統負載。

二、隨機法

通過系統的隨機算法，根據后端服務器的列表大小值來隨機選取其中的一臺服務器進行訪問。由概率統計理論可以得知，隨著客戶端調用服務端的次數增多，其實際效果越來越接近于平均分配調用量到后端的每一臺服務器，也就是輪詢的結果。

二、源地址哈希法

源地址哈希的思想是根據獲取客戶端的IP地址，通過哈希函數計算得到的一個數值，用該數值對服務器列表的大小進行取模運算，得到的結果便是客服端要訪問服務器的序號。采用源地址哈希法進行負載均衡，同一IP地址的客戶端，當后端服務器列表不變時，它每次都會映射到同一臺后端服務器進行訪問。

四、加權輪詢法

不同的后端服務器可能機器的配置和當前系統的負載并不相同，因此它們的抗壓能力也不相同。給配置高、負載低的機器配置更高的權重，讓其處理更多的請；而配置低、負載高的機器，給其分配較低的權重，降低其系統負載，加權輪詢能很好地處理這一問題，并將請求順序且按照權重分配到后端。

五、最小連接數法

最小連接數算法比較靈活和智能，由于后端服務器的配置不盡相同，對于請求的處理有快有慢，它是根據后端服務器當前的連接情況，動態地選取其中當前積壓連接數最少的一臺服務器來處理當前的請求，盡可能地提高后端服務的利用效率，將負責合理地分流到每一臺服務器。

現有技術的這些方法存在以下缺點：

1)不能依據后端服務的實際負載能力動態變更請求調度規則；

2)不能真實反映應用層業務模塊的性能；

3)不能針對TCP長連接請求進行負載均衡。

發明內容

針對現有技術的缺點，本發明的目的在于提供一種依據TCP請求質量評估的負載均衡調度系統和方法。旨在針對不同業務模塊的TCP請求質量提出一種評估業務模塊服務性能分數的標準化算法，建立一套能夠依據業務模塊的不同負載能力進行動態負載均衡方法。

本發明解決其技術問題所采用的技術方案是：提供一種依據TCP請求質量評估的負載均衡調度系統和方法，其特征在于，所述系統包括：服務發現模塊、負載均衡組件模塊、主調業務模塊和被調業務模塊，被調業務模塊包括若干個被調業務進程子模塊,其中：