[發(fā)明專利]一種服務(wù)器集群的負載均衡方法

有效

• 申請?zhí)枺?/td>: 201810251194.0
• 申請日: 2018-03-26
• 公開（公告）號: CN108551474B
• 公開（公告）日: 2021-03-09
• 發(fā)明（設(shè)計）人: 王誠;李奇源
• 申請（專利權(quán)）人: 南京郵電大學(xué)
• 主分類號: H04L29/08
• 分類號: H04L29/08
• 代理公司: 南京蘇科專利代理有限責(zé)任公司 32102
• 代理人: 姚姣陽

本發(fā)明提出了一種服務(wù)器集群的負載均衡方法，包括如下步驟：S1、判斷服務(wù)器集群是否涉及微服務(wù)架構(gòu)；S2、判斷服務(wù)器整體負載，是否需要進行容量調(diào)整；S3、接收請求，根據(jù)請求中的特征信息，判斷請求類型；S4、查詢、定位相應(yīng)請求類型在哈希環(huán)上的分區(qū)，并查詢相關(guān)節(jié)點當(dāng)前的負載，獲取負載最低的節(jié)點的當(dāng)前負載，以及該分區(qū)上節(jié)點的負載均值；S5、將請求根據(jù)歸類特征，通過哈希函數(shù)計算，將結(jié)果映射到該分區(qū)的相應(yīng)位置上；S6、按篩選方向，判斷相鄰節(jié)點是否為負載最低節(jié)點：S7、判斷當(dāng)前位置是否到達區(qū)塊的頂點。本發(fā)明有效地在分配階段均衡了系統(tǒng)各個節(jié)點的負載，提高了系統(tǒng)效率。

技術(shù)領(lǐng)域

本發(fā)明涉及一種一致性哈希分配方式，具體涉及一種服務(wù)器集群的服務(wù)節(jié)點之間所執(zhí)行的負載均衡方法，屬于計算機算法領(lǐng)域。

背景技術(shù)

負載均衡被廣泛應(yīng)用于分布式環(huán)境，包括數(shù)據(jù)處理領(lǐng)域的大數(shù)據(jù)處理，如Hadoop平臺的Map/Reduce中，利用負載均衡緩解Reduce端的數(shù)據(jù)傾斜問題；傳統(tǒng)P2P服務(wù)器的用戶負載平衡；分布式服務(wù)系統(tǒng)的請求處理負載平衡。

現(xiàn)如今，由于大數(shù)據(jù)與云計算的廣泛應(yīng)用，分布式服務(wù)系統(tǒng)的應(yīng)用也日漸頻繁，由于對系統(tǒng)性能橫向擴展的需要，一致性哈希就成為了這方面較成熟的解決方案。一致性哈希的本質(zhì)是使用哈希環(huán)代替?zhèn)鹘y(tǒng)的線性哈希分桶模式，以區(qū)間為衡量標準來判定用戶應(yīng)當(dāng)使用哪個服務(wù)器來承載和完成服務(wù)，而不是傳統(tǒng)的取模(mod)運算形式，從而使得系統(tǒng)管理員在對節(jié)點進行增加和刪除操作時，無需額外更改分配策略，保證系統(tǒng)正常運行。

在一個由一致性哈希進行分配的系統(tǒng)中，一個節(jié)點會虛擬化為一個由哈希算法得到的數(shù)值，映射到一個哈希環(huán)上。這個哈希環(huán)通常由2³²個點構(gòu)成，其取值區(qū)間為0到2³²-1。當(dāng)用戶或請求進入這個系統(tǒng)時，會根據(jù)其一定的特征來進行哈希運算，以得到的值作為依據(jù)，將其映射到哈希環(huán)上，然后按特定的方向，找到最近的節(jié)點，作為其服務(wù)節(jié)點。

一致性哈希由于其良好的可擴展性和靈活性，其在傳統(tǒng)的P2P領(lǐng)域中運用相當(dāng)廣泛，覆蓋了絕大多數(shù)系統(tǒng)的節(jié)點分配機制。然而，一致性哈希解決的僅僅是系統(tǒng)的橫向擴展問題，對于負載均衡而言，卻收效甚微，甚至有可能引發(fā)更嚴重的傾斜(skew)問題，特別是在部分節(jié)點移除以后。這是因為每一個請求最終分配到的節(jié)點完全取決于由哈希函數(shù)進行運算后，最終得到的隨機的結(jié)果，并沒有設(shè)計任何負載均衡的措施，也沒有考慮請求本身可能存在的一些特征。這種缺陷會造成以下幾個問題：

1、對于特征字符串相同的請求，很容易得到相同的結(jié)果，使得結(jié)果的隨機性不明顯，導(dǎo)致部分節(jié)點承載過多的請求，而其他節(jié)點的負載過低，整個系統(tǒng)的處理效率嚴重偏離理想狀態(tài)。

2、缺乏合適的負載均衡策略，不能有效地應(yīng)對部分節(jié)點上負載過多的情況，自然也就不能對系統(tǒng)實行最優(yōu)化的調(diào)整。

3、不能適應(yīng)新型的分布式系統(tǒng)，特別是在每個節(jié)點提供的服務(wù)不相同的情況下，需要付出額外的代價——多層哈希環(huán)等方式，來解決節(jié)點與服務(wù)內(nèi)容不對應(yīng)的情況。

由于負載傾斜是傳統(tǒng)一致性哈希中必然存在的問題，其負載均衡的策略也就顯得非常重要。傳統(tǒng)的方式是通過將一個節(jié)點分裂為原始節(jié)點和另一個在環(huán)上與之相對位置的虛擬節(jié)點(virtual node)的方式來部分緩解傾斜的問題，但是在實際操作中人們發(fā)現(xiàn)，使用虛擬節(jié)點來緩解傾斜問題，不但效率偏低，而且其效果十分有限。

綜上所述，如何克服上述現(xiàn)有技術(shù)上的不足，提出一種更為有效的一致性哈希分配方式，進而實現(xiàn)服務(wù)器集群的負載均衡，就成為了本領(lǐng)域內(nèi)的技術(shù)人員亟待解決的問題。

發(fā)明內(nèi)容

鑒于現(xiàn)有技術(shù)存在上述缺陷，本發(fā)明的目的是提出一種服務(wù)器集群的服務(wù)節(jié)點之間所執(zhí)行的負載均衡方法。

本發(fā)明的目的，將通過以下技術(shù)方案得以實現(xiàn)：

一種服務(wù)器集群的負載均衡方法，包括如下步驟：