[發(fā)明專利]一種應(yīng)用于服務(wù)器集群的動(dòng)態(tài)負(fù)載均衡方法及系統(tǒng)

有效

• 申請(qǐng)?zhí)枺?/td>: 201910455915.4
• 申請(qǐng)日: 2019-05-29
• 公開(kāi)（公告）號(hào): CN110266769B
• 公開(kāi)（公告）日: 2021-12-17
• 發(fā)明（設(shè)計(jì)）人: 孟利民;周磊;應(yīng)頌翔;林夢(mèng)嫚;蔣維
• 申請(qǐng)（專利權(quán)）人: 杭州夢(mèng)視網(wǎng)絡(luò)科技有限公司
• 主分類號(hào): H04L29/08
• 分類號(hào): H04L29/08
• 代理公司: 杭州斯可睿專利事務(wù)所有限公司 33241
• 代理人: 王利強(qiáng)

一種應(yīng)用于服務(wù)器集群的動(dòng)態(tài)負(fù)載均衡方法，包括以下步驟：A、假設(shè)服務(wù)器集群中有n臺(tái)服務(wù)器，服務(wù)器每處理一個(gè)用戶請(qǐng)求，將記錄該請(qǐng)求的任務(wù)量，處理開(kāi)始時(shí)間和處理結(jié)束時(shí)間，并得到服務(wù)器當(dāng)前負(fù)載指標(biāo)v，服務(wù)器集群將負(fù)載指標(biāo)反饋至管理服務(wù)器；B1、管理服務(wù)器從請(qǐng)求隊(duì)列按順序取出與服務(wù)器數(shù)量相等的n個(gè)請(qǐng)求；B2、以服務(wù)器集合和請(qǐng)求集合作為二部圖的頂點(diǎn)集；B3、對(duì)所有服務(wù)器和請(qǐng)求進(jìn)行遍歷；C、再根據(jù)深度優(yōu)先的Edmonds的匈牙利算法求二部圖的最大匹配；D、由用戶請(qǐng)求分配模塊按照M的匹配邊，將請(qǐng)求發(fā)送至服務(wù)器進(jìn)行處理。以及提供一種應(yīng)用于服務(wù)器集群的動(dòng)態(tài)負(fù)載均衡系統(tǒng)。本發(fā)明實(shí)現(xiàn)任務(wù)的調(diào)度和服務(wù)器集群的負(fù)載均衡。

技術(shù)領(lǐng)域

本發(fā)明涉及負(fù)載均衡技術(shù)領(lǐng)域，特別是涉及一種應(yīng)用于服務(wù)器集群的動(dòng)態(tài)負(fù)載均衡方法。

背景技術(shù)

隨著網(wǎng)絡(luò)技術(shù)的高速發(fā)展，互聯(lián)網(wǎng)服務(wù)已經(jīng)成為日常生活中不可或缺的一部分。由于互聯(lián)網(wǎng)用戶的爆發(fā)式增長(zhǎng)，單個(gè)服務(wù)器常常無(wú)法及時(shí)處理短時(shí)間內(nèi)大量并發(fā)的用戶請(qǐng)求，導(dǎo)致用戶體驗(yàn)下降。為解決這一問(wèn)題，聯(lián)合多個(gè)獨(dú)立服務(wù)器構(gòu)成的服務(wù)器集群系統(tǒng)應(yīng)運(yùn)而生。負(fù)載均衡技術(shù)是服務(wù)器集群系統(tǒng)的核心技術(shù)之一，其作用在于將大量并發(fā)的用戶請(qǐng)求均衡地分配集群系統(tǒng)中的各個(gè)服務(wù)器，充分發(fā)揮集群系統(tǒng)的性能，提高集群系統(tǒng)的利用率和效率。

現(xiàn)今常見(jiàn)的負(fù)載均衡算法可分為兩類，分別為靜態(tài)負(fù)載均衡算法和動(dòng)態(tài)負(fù)載均衡算法。其中常見(jiàn)的靜態(tài)算法，如輪詢算法、加權(quán)輪詢算法、目標(biāo)地址散列調(diào)度算法等，這類算法易于實(shí)現(xiàn)，但不考慮各個(gè)服務(wù)器實(shí)時(shí)的負(fù)載狀態(tài)，容易導(dǎo)致負(fù)載不均衡；常見(jiàn)的動(dòng)態(tài)負(fù)載均衡算法，如最小連接數(shù)算法、加權(quán)最小連接數(shù)算法、一致性哈希算法等，這類算法只單方面考慮了服務(wù)器的負(fù)載狀態(tài)，沒(méi)有考慮用戶請(qǐng)求之間的差異，不能準(zhǔn)確地判斷服務(wù)器真實(shí)的負(fù)載狀態(tài)。綜上所述，目前常見(jiàn)的負(fù)載均衡算法的負(fù)載均衡效果并不理想，仍需要改進(jìn)和優(yōu)化。

發(fā)明內(nèi)容

為了進(jìn)一步提高服務(wù)器集群的負(fù)載均衡度，本發(fā)明提供了一種應(yīng)用于服務(wù)器集群的動(dòng)態(tài)負(fù)載均衡方法。該方法根據(jù)用戶請(qǐng)求的任務(wù)量和期望完成時(shí)間以及服務(wù)器的負(fù)載指標(biāo)來(lái)構(gòu)建服務(wù)器與用戶請(qǐng)求的二部圖，并按二部圖的最大匹配結(jié)果將用戶請(qǐng)求發(fā)送給匹配的服務(wù)器，從而實(shí)現(xiàn)任務(wù)的調(diào)度和服務(wù)器集群的負(fù)載均衡。

本發(fā)明解決其技術(shù)問(wèn)題所采用的技術(shù)方案是：

一種應(yīng)用于服務(wù)器集群的動(dòng)態(tài)負(fù)載均衡方法，其特征在于：所述方法包括以下步驟：

A、假設(shè)服務(wù)器集群中有n臺(tái)服務(wù)器，由集合表示為S＝{S₁，S₂，S₃，...，S_n}，服務(wù)器每處理一個(gè)用戶請(qǐng)求，將記錄該請(qǐng)求的任務(wù)量r，處理開(kāi)始時(shí)間t_start和處理結(jié)束時(shí)間t_end，并由下式得到服務(wù)器當(dāng)前負(fù)載指標(biāo)v：

同時(shí)服務(wù)器集群將負(fù)載指標(biāo)反饋至管理服務(wù)器；

B1、管理服務(wù)器從請(qǐng)求隊(duì)列按順序取出與服務(wù)器數(shù)量相等的n個(gè)請(qǐng)求，表示為J＝{J₁，J₂，J₃，...，J_n}，由請(qǐng)求預(yù)估模塊得到對(duì)應(yīng)請(qǐng)求的任務(wù)量為R＝{R₁，R₂，R₃，…，R_n}，以及期望完成時(shí)間為T(mén)＝{T₁，T₂，T₃，…，T_n}；

B2、計(jì)算模塊以服務(wù)器集合S和請(qǐng)求集合J作為二部圖的頂點(diǎn)集；

B3、對(duì)所有服務(wù)器和請(qǐng)求進(jìn)行遍歷：對(duì)于任意一個(gè)服務(wù)器S_i和一個(gè)請(qǐng)求J_m，可由下式預(yù)估服務(wù)器S_i執(zhí)行任務(wù)J_m實(shí)際所需時(shí)間t_im：