[發(fā)明專利]一種用于服務(wù)集群的負載均衡方法和系統(tǒng)

在審

• 申請?zhí)枺?/td>: 202011042169.5
• 申請日: 2020-09-28
• 公開（公告）號: CN111930523A
• 公開（公告）日: 2020-11-13
• 發(fā)明（設(shè)計）人: 馬俊明;余超凡;王磊
• 申請（專利權(quán)）人: 支付寶（杭州）信息技術(shù)有限公司
• 主分類號: G06F9/50
• 分類號: G06F9/50;G06F21/57
• 代理公司: 成都七星天知識產(chǎn)權(quán)代理有限公司 51253
• 代理人: 袁春曉

1.一種用于服務(wù)集群的負載均衡方法，所述服務(wù)集群包括多個具有可信執(zhí)行環(huán)境的工作節(jié)點，所述方法包括：

獲取服務(wù)集群中工作節(jié)點的可信執(zhí)行環(huán)境的內(nèi)存狀態(tài)信息；其中，所述可信執(zhí)行環(huán)境的內(nèi)存狀態(tài)信息包括可信執(zhí)行環(huán)境的內(nèi)存與外存儲介質(zhì)進行數(shù)據(jù)交換的數(shù)據(jù)量、可信執(zhí)行環(huán)境的內(nèi)存占用量以及可信執(zhí)行環(huán)境的內(nèi)存剩余量中的一種或多種組合；

至少基于工作節(jié)點的可信執(zhí)行環(huán)境的內(nèi)存狀態(tài)信息實施負載均衡，以調(diào)整工作節(jié)點接收到的服務(wù)請求的數(shù)量。

2.根據(jù)權(quán)利要求1所述的方法，所述至少基于工作節(jié)點的可信執(zhí)行環(huán)境的內(nèi)存狀態(tài)信息實施負載均衡，以調(diào)整工作節(jié)點接收到的服務(wù)請求的數(shù)量，包括：

確定各工作節(jié)點的負載權(quán)重，所述負載權(quán)重與工作節(jié)點接收到的服務(wù)請求的數(shù)量相關(guān)；

基于內(nèi)存狀態(tài)信息，調(diào)整對應(yīng)的工作節(jié)點的負載權(quán)重，進而調(diào)整該工作節(jié)點接收到的服務(wù)請求的數(shù)量。

3.根據(jù)權(quán)利要求2所述的方法，所述基于內(nèi)存狀態(tài)信息，調(diào)整對應(yīng)的工作節(jié)點的負載權(quán)重，進而調(diào)整該工作節(jié)點接收到的服務(wù)請求的數(shù)量，包括：

獲取目標(biāo)服務(wù)對應(yīng)的臨界指標(biāo)；

基于所述臨界指標(biāo)，判斷該工作節(jié)點對應(yīng)的內(nèi)存狀態(tài)信息是否滿足預(yù)設(shè)條件；

若是，則調(diào)整該工作節(jié)點的負載權(quán)重，以減少該工作節(jié)點接收到的服務(wù)請求的數(shù)量或者使該工作節(jié)點不再接收服務(wù)請求。

4.根據(jù)權(quán)利要求3所述的方法，所述基于內(nèi)存狀態(tài)信息，調(diào)整對應(yīng)的工作節(jié)點的負載權(quán)重，進而調(diào)整該工作節(jié)點接收到的服務(wù)請求的數(shù)量，還包括，在減少該工作節(jié)點接收到的服務(wù)請求的數(shù)量或者使該工作節(jié)點不再接收服務(wù)請求之后：

判斷該工作節(jié)點的可信執(zhí)行環(huán)境中，除目標(biāo)服務(wù)以外的程序是否結(jié)束運行；

若是，則調(diào)整該工作節(jié)點的負載權(quán)重，以增加該工作節(jié)點接收到的服務(wù)請求的數(shù)量或者使該工作節(jié)點可重新接收服務(wù)請求。

5.根據(jù)權(quán)利要求3所述的方法，所述臨界指標(biāo)通過以下方式確定：

在工作節(jié)點上運行用于實現(xiàn)所述目標(biāo)服務(wù)的目標(biāo)服務(wù)程序，并向所述工作節(jié)點發(fā)送服務(wù)請求；

在所述工作節(jié)點上運行內(nèi)存占用程序，所述內(nèi)存占用程序與所述目標(biāo)服務(wù)程序共同使用可信執(zhí)行環(huán)境的內(nèi)存，以致觸發(fā)可信執(zhí)行環(huán)境的內(nèi)存與外存儲介質(zhì)進行數(shù)據(jù)交換；

基于所述目標(biāo)服務(wù)程序?qū)Ψ?wù)請求的響應(yīng)確定當(dāng)前目標(biāo)服務(wù)的服務(wù)質(zhì)量，獲取當(dāng)前可信執(zhí)行環(huán)境的內(nèi)存與外存儲介質(zhì)進行數(shù)據(jù)交換的數(shù)據(jù)量，將當(dāng)前的可信執(zhí)行環(huán)境的內(nèi)存與外存儲介質(zhì)進行數(shù)據(jù)交換的數(shù)據(jù)量與目標(biāo)服務(wù)的服務(wù)質(zhì)量進行關(guān)聯(lián)并存儲；改變所述內(nèi)存占用程序使用可信執(zhí)行環(huán)境的內(nèi)存大小并循環(huán)本步驟，獲得多組可信執(zhí)行環(huán)境的內(nèi)存與外存儲介質(zhì)進行數(shù)據(jù)交換的數(shù)據(jù)量及其對應(yīng)的目標(biāo)服務(wù)的服務(wù)質(zhì)量；

將目標(biāo)服務(wù)的服務(wù)質(zhì)量下限對應(yīng)的可信執(zhí)行環(huán)境的內(nèi)存與外存儲介質(zhì)進行數(shù)據(jù)交換的數(shù)據(jù)量確定為所述臨界指標(biāo)。

6.根據(jù)權(quán)利要求1所述的方法，所述獲取服務(wù)集群中工作節(jié)點的可信執(zhí)行環(huán)境的內(nèi)存狀態(tài)信息，包括：

通過在每個所述工作節(jié)點處設(shè)置的節(jié)點狀態(tài)監(jiān)控器獲取服務(wù)集群中各工作節(jié)點的所述內(nèi)存狀態(tài)信息。

7.根據(jù)權(quán)利要求1所述的方法，所述獲取服務(wù)集群中工作節(jié)點的可信執(zhí)行環(huán)境的內(nèi)存狀態(tài)信息，包括對于任一工作節(jié)點：

獲取該工作節(jié)點預(yù)設(shè)歷史時期的歷史內(nèi)存狀態(tài)信息；

將所述歷史內(nèi)存狀態(tài)信息輸入預(yù)先訓(xùn)練好的內(nèi)存狀態(tài)預(yù)測模型，得到該工作節(jié)點當(dāng)前的內(nèi)存狀態(tài)信息。

8.一種用于服務(wù)集群的負載均衡系統(tǒng)，所述系統(tǒng)包括：

獲取模塊，用于獲取服務(wù)集群中工作節(jié)點的可信執(zhí)行環(huán)境的內(nèi)存狀態(tài)信息；其中，所述可信執(zhí)行環(huán)境的內(nèi)存狀態(tài)信息包括可信執(zhí)行環(huán)境的內(nèi)存與外存儲介質(zhì)進行數(shù)據(jù)交換的數(shù)據(jù)量、可信執(zhí)行環(huán)境的內(nèi)存占用量以及可信執(zhí)行環(huán)境的內(nèi)存剩余量中的一種或多種組合；

調(diào)整模塊，用于至少基于工作節(jié)點的可信執(zhí)行環(huán)境的內(nèi)存狀態(tài)信息實施負載均衡，以調(diào)整工作節(jié)點接收到的服務(wù)請求的數(shù)量。