[發明專利]負載均衡設備的連接管理和復用的方法和系統

有效

• 申請號: 201210590088.8
• 申請日: 2012-12-31
• 公開（公告）號: CN103067293B
• 公開（公告）日: 2017-03-22
• 發明（設計）人: 王守彥
• 申請（專利權）人: 北京京東世紀貿易有限公司
• 主分類號: H04L12/803
• 分類號: H04L12/803;H04L29/08
• 代理公司: 中原信達知識產權代理有限責任公司11219
• 代理人: 劉光明,穆德駿

技術領域

本發明涉及一種連接管理和復用方法，并且更具體地涉及一種負載均衡設備的連接管理和復用方法。

背景技術

隨著互聯網的發展，網絡服務的數據量越來越大，同時對應用的高可用性提出了更高的要求，服務器主備冗余模式已經不能滿足當前需求。因此，在大型網絡服務架構中，通常使用負載均衡設備將用戶請求轉發給后端真實服務器。

負載均衡設備是由多臺服務器以對稱的方式組成一個服務器集合，每臺服務器都具有等價的地位，都可以單獨對外提供服務而無須其他服務器的輔助。通過某種負載分擔技術，將外部發送來的請求均勻分配到對稱結構中的某一臺服務器上，而接收到請求的服務器獨立地回應客戶的請求。均衡負載能夠平均分配客戶請求到服務器陣列，由此提供快速獲取重要數據、解決大量并發訪問服務問題。這種群集技術可以用最少的投資獲得接近于大型主機的性能。

然而，在轉發過程中負載均衡設備會對每一個用戶連接同樣建立一個到后端真實服務器的連接。用戶因連接和斷開網絡連接而產生的周期性網絡請求會耗費寶貴的網絡應用資源。即使每個連接開銷很小，但是綜合到一起，它們將影響到總的應用負載。這對于電子商務站點和擁有大量用戶的企業應用來說，尤為明顯。而且，這樣的實現占用大量連接數，增加真實服務器的負載。而且，連接數的增加會給系統增加大量的開銷。由此可見，連接數對于服務器是一個極大的限制。

為了解決連接數問題，已有的解決方法包括：1）在負載均衡設備上主動斷開對用戶的連接，這樣可以減少后端服務器的連接數，但可能會造成用戶請求連接被重置。2）在負載均衡設備上保持對用戶的連接，主動斷開對后端服務器的連接，這樣處理會導致負載均衡設備頻繁建立和關閉到服務器的連接。

因此，需要一種能夠降低服務器連接數，并通過連接復用改善響應時間的連接數管理方法和系統。

發明內容

根據本發明的一方面，提供了一種負載均衡設備的連接管理和復用的方法，所述方法包括：負載均衡設備從一個或多個應用接收用戶請求；所述負載均衡設備將所述用戶請求放入隊列，并且記錄所述請求的連接信息；連接管理器確定一個或多個連接池中是否存在空閑連接，其中所述連接池被設置有最大連接數和最小連接數，如果沒有空閑連接，則所述連接管理器創建新連接，并且將新創建的連接分配給所述負載均衡設備；以及如果存在空閑連接，則所述連接管理器將所述空閑連接分配給所述負載均衡設備，所述負載均衡設備通過所分配的連接將所述用戶請求轉發給對應服務器，以及所述負載均衡設備將來自所述對應服務器的響應數據轉發給用戶。

根據本發明的另一個方面，提供了一種負載均衡設備的連接管理和復用的系統，所述系統包括：一個或多個應用；負載均衡設備，所述負載均衡設備被配置成從一個或多個應用接收用戶請求；以及將所述用戶請求放入隊列并且記錄所述請求的連接信息；連接管理器，所述連接管理器被配置成確定一個或多個連接池中是否存在空閑連接，其中所述連接池被設置有最大連接數和最小連接數，如果沒有空閑連接，則所述連接管理器創建新連接，并且將新創建的連接分配給所述負載均衡器；以及如果存在空閑連接，則將所述空閑連接分配給所述負載均衡設備，其中所述負載均衡設備通過所分配的連接將所述用戶請求轉發給對應服務器；并且將來自所述對應服務器的響應數據轉發給用戶。

附圖說明

附圖圖示了本發明的實施例，并與說明書一起用于解釋本發明的原理。在附圖中：

圖1圖示了根據本發明的實施例的負載均衡設備的連接管理的系統的框圖。

圖2圖示了根據本發明的一個實施例的負載均衡設備的連接管理的方法的流程圖。

圖3圖示了根據本發明的另一個實施例的負載均衡設備的連接管理方法的流程圖。

具體實施方式

下面結合說明書附圖詳細描述本發明的實施例。

根據本發明的負載均衡設備的連接管理的方法和系統通過在負載均衡設備上實現對客戶端連接保持連接，但對用戶的每條連接并不同時創建一條到真實服務器的連接，而是對真實服務器維護一個連接池，充分復用到真實服務器的連接。這種方法可以減少真實服務器需要維護的連接數，并通過減少新建連接的次數，改善服務響應時間。

圖1圖示了根據本發明的實施例的負載均衡設備的連接管理的系統100的框圖。如圖1所示，系統100包括應用101、102、103、負載均衡設備107、連接管理器109、連接池110和服務器111、113、115。出于示意的目的，圖1中僅示出了三個應用和三個服務器，本領域技術人員可以理解，可以存在更多或更少的應用或服務器。