[發(fā)明專利]一種基于動態(tài)權(quán)重的負(fù)載均衡系統(tǒng)

在審

• 申請?zhí)枺?/td>: 202011086129.0
• 申請日: 2020-10-12
• 公開（公告）號: CN112217894A
• 公開（公告）日: 2021-01-12
• 發(fā)明（設(shè)計）人: 李瑩;張?zhí)锖?/a>;張凌飛;尹建偉;鄧水光
• 申請（專利權(quán)）人: 浙江大學(xué)
• 主分類號: H04L29/08
• 分類號: H04L29/08
• 代理公司: 杭州天勤知識產(chǎn)權(quán)代理有限公司 33224
• 代理人: 王琛

本發(fā)明公開了一種基于動態(tài)權(quán)重的負(fù)載均衡系統(tǒng)，包括注冊中心、配置中心、監(jiān)控中心、網(wǎng)關(guān)、熔斷器以及負(fù)載均衡器，其中負(fù)載均衡器被集成在微服務(wù)的網(wǎng)關(guān)組件中，其實(shí)現(xiàn)過程包括搭建基本環(huán)境、實(shí)現(xiàn)與注冊中心交互的模塊、實(shí)現(xiàn)獲取最大線程數(shù)和最大并發(fā)量模塊、實(shí)現(xiàn)構(gòu)造權(quán)重列表模塊、將負(fù)載均衡器集成到網(wǎng)關(guān)組件中、對所完成的負(fù)載均衡器進(jìn)行測試。本發(fā)明將服務(wù)實(shí)例中固定配置的指標(biāo)和運(yùn)行狀態(tài)中通過監(jiān)控獲取到的性能指標(biāo)結(jié)合起來設(shè)計對服務(wù)實(shí)例提供服務(wù)能力的評價標(biāo)準(zhǔn)，能夠更加動態(tài)更加準(zhǔn)確的反應(yīng)服務(wù)實(shí)例的服務(wù)提供能力。

技術(shù)領(lǐng)域

本發(fā)明屬于微服務(wù)架構(gòu)中網(wǎng)關(guān)的負(fù)載均衡技術(shù)領(lǐng)域，具體涉及一種基于動態(tài)權(quán)重的負(fù)載均衡系統(tǒng)。

背景技術(shù)

在微服務(wù)架構(gòu)中，由多個微服務(wù)之間相互調(diào)用完成用戶請求，而每個微服務(wù)又有多個實(shí)例，微服務(wù)實(shí)例部署在不同地區(qū)不同機(jī)器上，為了便于客戶端使用這些服務(wù)實(shí)例，存在微服務(wù)網(wǎng)關(guān)，所有的外部請求都先通過這個網(wǎng)關(guān)，再由網(wǎng)關(guān)來進(jìn)行具體服務(wù)實(shí)例的調(diào)用。

負(fù)載均衡的含義就是指將負(fù)載(工作任務(wù))進(jìn)行平衡、分?jǐn)偟蕉鄠€操作單元上進(jìn)行運(yùn)行，例如FTP服務(wù)器、Web服務(wù)器、企業(yè)核心應(yīng)用服務(wù)器和其它主要任務(wù)服務(wù)器等，從而協(xié)同完成工作任務(wù)，也就是在選擇具體的服務(wù)實(shí)例的時候通過一系列的算法來確定選擇哪個具體的服務(wù)實(shí)例。負(fù)載均衡建立在原有網(wǎng)絡(luò)結(jié)構(gòu)之上，它提供了一種透明且廉價有效的方法擴(kuò)展服務(wù)器和網(wǎng)絡(luò)設(shè)備的帶寬、加強(qiáng)網(wǎng)絡(luò)數(shù)據(jù)處理能力、增加吞吐量、提高網(wǎng)絡(luò)的可用性和靈活性。

目前通用的負(fù)載均衡算法分為靜態(tài)和動態(tài)兩大類，靜態(tài)負(fù)載均衡算法以固定的概率分配任務(wù)，不考慮服務(wù)器的狀態(tài)信息，如輪詢算法、加權(quán)輪轉(zhuǎn)算法等；動態(tài)負(fù)載均衡算法以服務(wù)器的實(shí)時負(fù)載狀態(tài)信息來決定任務(wù)的分配，如最小連接法、加權(quán)最小連接法等。

其中輪詢法就是將用戶的請求輪流分配給服務(wù)器，就像是挨個數(shù)數(shù)，輪流分配，這種算法比較簡單，它具有絕對均衡的優(yōu)點(diǎn)，但是也正是因?yàn)榻^對均衡它必須付出很大的代價，例如它無法保證分配任務(wù)的合理性，無法根據(jù)服務(wù)器承受能力來分配任務(wù)。加權(quán)輪轉(zhuǎn)是指在初始時為每個服務(wù)實(shí)例設(shè)置一個權(quán)重，然后根據(jù)權(quán)重將服務(wù)請求按權(quán)重的比例平均分配給具體的服務(wù)實(shí)例，優(yōu)點(diǎn)是能夠根據(jù)服務(wù)器的性能分配請求，缺點(diǎn)是這個權(quán)重是初始設(shè)定的，無法根據(jù)運(yùn)行時的實(shí)時狀況進(jìn)行調(diào)整。

最小連接法是將任務(wù)分配給此時具有最小連接數(shù)的節(jié)點(diǎn)，因此它是動態(tài)負(fù)載均衡算法，一個節(jié)點(diǎn)收到一個任務(wù)后連接數(shù)就會加1，當(dāng)節(jié)點(diǎn)故障時就將節(jié)點(diǎn)權(quán)值設(shè)置為0，不再給節(jié)點(diǎn)分配任務(wù)；最小連接法適用于各個節(jié)點(diǎn)處理的性能相似時，任務(wù)分發(fā)單元會將任務(wù)平滑分配給服務(wù)器，但當(dāng)服務(wù)器性能差距較大時，就無法達(dá)到預(yù)期的效果，因?yàn)榇藭r連接數(shù)并不能準(zhǔn)確表明處理能力，連接數(shù)小而自身性能很差的服務(wù)器可能不及連接數(shù)大而自身性能極好的服務(wù)器，所以在這個時候就會導(dǎo)致任務(wù)無法準(zhǔn)確的分配到剩余處理能力強(qiáng)的機(jī)器上。加權(quán)最小連接法是在最小連接法的基礎(chǔ)上預(yù)設(shè)一個權(quán)重，在調(diào)度新連接時盡可能使服務(wù)器的已建立連接數(shù)與其權(quán)重成比例。

綜上可以看出，現(xiàn)有的靜態(tài)負(fù)載均衡算法無法應(yīng)對服務(wù)實(shí)例的能力變化，而動態(tài)負(fù)載均衡算法沒有考慮到服務(wù)實(shí)例的最大能力。

發(fā)明內(nèi)容

鑒于上述，本發(fā)明提出了一種基于動態(tài)權(quán)重的負(fù)載均衡系統(tǒng)，使得負(fù)載均衡器對服務(wù)實(shí)例的服務(wù)提供能力評估更加精確。

一種基于動態(tài)權(quán)重的負(fù)載均衡系統(tǒng)，包括注冊中心、配置中心、監(jiān)控中心、網(wǎng)關(guān)、熔斷器以及負(fù)載均衡器，其中：

所述注冊中心用于記錄各服務(wù)實(shí)例的服務(wù)名和元數(shù)據(jù)信息；

所述配置中心用于存儲和修改各服務(wù)實(shí)例的配置信息；

所述監(jiān)控中心用于判斷各服務(wù)實(shí)例的健康狀態(tài)；

所述網(wǎng)關(guān)用于分發(fā)用戶的請求；

所述熔斷器設(shè)置在網(wǎng)關(guān)與服務(wù)實(shí)例之間，當(dāng)服務(wù)實(shí)例不可用時熔斷；