[發(fā)明專利]用于服務(wù)器集群的負(fù)載均衡方法、裝置、設(shè)備及介質(zhì)

在審

• 申請(qǐng)?zhí)枺?/td>: 202211046191.6
• 申請(qǐng)日: 2022-08-30
• 公開（公告）號(hào): CN115408155A
• 公開（公告）日: 2022-11-29
• 發(fā)明（設(shè)計(jì)）人: 蘇康;郭芬;李中華;李拓
• 申請(qǐng)（專利權(quán)）人: 山東云海國(guó)創(chuàng)云計(jì)算裝備產(chǎn)業(yè)創(chuàng)新中心有限公司
• 主分類號(hào): G06F9/50
• 分類號(hào): G06F9/50
• 代理公司: 北京連和連知識(shí)產(chǎn)權(quán)代理有限公司 11278
• 代理人: 黃艷南;張濤

本發(fā)明涉及集群服務(wù)器技術(shù)領(lǐng)域，尤其涉及一種用于服務(wù)器集群的負(fù)載均衡方法、裝置、設(shè)備及介質(zhì)。所述方法包括：利用每個(gè)服務(wù)器的基板管理控制器獲取服務(wù)器的運(yùn)行參數(shù)；根據(jù)所述運(yùn)行參數(shù)計(jì)算每個(gè)服務(wù)器負(fù)載分?jǐn)?shù)；將集群中各個(gè)服務(wù)器的負(fù)載分?jǐn)?shù)發(fā)送給負(fù)載均衡器；由所述負(fù)載均衡器根據(jù)各個(gè)服務(wù)器的負(fù)載分?jǐn)?shù)從集群的所有服務(wù)器中選取目標(biāo)服務(wù)器，并將集群的待處理任務(wù)分配給所述目標(biāo)服務(wù)器。本發(fā)明的方案實(shí)現(xiàn)更為全面、更為準(zhǔn)確的評(píng)估出服務(wù)器整體負(fù)載情況，有效提高了服務(wù)器集群的負(fù)載均衡能力，提升了服務(wù)器集群的整體性能，同時(shí)無(wú)需增加額外的硬件設(shè)施和成本。

技術(shù)領(lǐng)域

本發(fā)明涉及集群服務(wù)器技術(shù)領(lǐng)域，尤其涉及一種用于服務(wù)器集群的負(fù)載均衡方法、裝置、設(shè)備及介質(zhì)。

背景技術(shù)

隨著業(yè)務(wù)發(fā)展和數(shù)據(jù)的不斷積累，高性能的單臺(tái)服務(wù)器無(wú)法處理大量的數(shù)據(jù)和高并發(fā)用戶的集中訪問(wèn)。為提升服務(wù)器整體計(jì)算能力，服務(wù)器集群應(yīng)運(yùn)而生。為避免單獨(dú)一個(gè)服務(wù)器壓力過(guò)大，通常采用負(fù)載均衡策略將來(lái)自用戶的請(qǐng)求轉(zhuǎn)發(fā)給不同的服務(wù)器。目前普遍采用的負(fù)載均衡策略主要包括輪詢策略、權(quán)重輪詢策略和負(fù)載度策略。其中輪詢和權(quán)重輪詢策略均基于被動(dòng)均攤原則，缺乏靈活性，并且難以適用于計(jì)算性能不同的處理器組成的集群。負(fù)載度策略則需要負(fù)載均衡器通過(guò)采集連接數(shù)、請(qǐng)求數(shù)、CPU負(fù)載指標(biāo)、IO負(fù)載指標(biāo)等數(shù)據(jù)動(dòng)態(tài)評(píng)估后端各服務(wù)器的負(fù)載壓力，進(jìn)而將請(qǐng)求下發(fā)給負(fù)載壓力較小的服務(wù)器。

然而，隨著人工智能和大數(shù)據(jù)的快速發(fā)展，服務(wù)器內(nèi)部GPU、FPGA等計(jì)算設(shè)備的種類和數(shù)量日益增多，一方面目前負(fù)載度策略仍只側(cè)重于計(jì)算CPU和IO的負(fù)載壓力，無(wú)法全面評(píng)估服務(wù)器整體的計(jì)算負(fù)載，也未將溫度、風(fēng)扇轉(zhuǎn)速等服務(wù)器物理狀態(tài)對(duì)負(fù)載的影響計(jì)算在內(nèi)，導(dǎo)致對(duì)集群中服務(wù)器負(fù)載分配效果不佳；另一方面目前為了實(shí)現(xiàn)集群中服務(wù)器的各個(gè)服務(wù)器負(fù)載均衡而添加額外的監(jiān)控設(shè)備造成集群管理的成本變高，因此亟需改進(jìn)。

發(fā)明內(nèi)容

有鑒于此，有必要針對(duì)以上技術(shù)問(wèn)題，提供一種用于服務(wù)器集群的負(fù)載均衡方法、裝置、設(shè)備及介質(zhì)。

根據(jù)本發(fā)明的第一方面，提供了一種用于服務(wù)器集群的負(fù)載均衡方法，所述方法包括：

利用每個(gè)服務(wù)器的基板管理控制器獲取服務(wù)器的運(yùn)行參數(shù)；

根據(jù)所述運(yùn)行參數(shù)計(jì)算每個(gè)服務(wù)器負(fù)載分?jǐn)?shù)；

將集群中各個(gè)服務(wù)器的負(fù)載分?jǐn)?shù)發(fā)送給負(fù)載均衡器；

由所述負(fù)載均衡器根據(jù)各個(gè)服務(wù)器的負(fù)載分?jǐn)?shù)從集群的所有服務(wù)器中選取目標(biāo)服務(wù)器，并將集群的待處理任務(wù)分配給所述目標(biāo)服務(wù)器。

在一些實(shí)施例中，所述利用每個(gè)服務(wù)器的基板管理控制器獲取服務(wù)器的運(yùn)行參數(shù)包括：

從集群中的每個(gè)服務(wù)器基板管理控制器分別讀取機(jī)箱溫度。

在一些實(shí)施例中，所述根據(jù)所述運(yùn)行參數(shù)計(jì)算每個(gè)服務(wù)器負(fù)載分?jǐn)?shù)包括：

將讀取的每個(gè)機(jī)箱溫度分別與預(yù)設(shè)機(jī)箱溫度閾值進(jìn)行比較；

響應(yīng)于讀取的機(jī)箱溫度超過(guò)所述預(yù)設(shè)機(jī)箱溫度閾值，則確認(rèn)讀取的機(jī)箱溫度對(duì)應(yīng)的服務(wù)器的負(fù)載分?jǐn)?shù)為1。

在一些實(shí)施例中，所述利用每個(gè)服務(wù)器的基板管理控制器獲取服務(wù)器的運(yùn)行參數(shù)包括：

從集群中的每個(gè)服務(wù)器基板管理控制器分別讀取風(fēng)扇轉(zhuǎn)速。

在一些實(shí)施例中，所述根據(jù)所述運(yùn)行參數(shù)計(jì)算每個(gè)服務(wù)器負(fù)載分?jǐn)?shù)包括：

將讀取的每個(gè)風(fēng)扇轉(zhuǎn)速分別與預(yù)設(shè)風(fēng)扇轉(zhuǎn)速閾值進(jìn)行比較；

響應(yīng)于讀取的風(fēng)扇轉(zhuǎn)速超過(guò)所述預(yù)設(shè)風(fēng)扇轉(zhuǎn)速閾值，則確認(rèn)讀取的風(fēng)扇轉(zhuǎn)速對(duì)應(yīng)的服務(wù)器的負(fù)載分?jǐn)?shù)為1。

在一些實(shí)施例中，所述利用每個(gè)服務(wù)器的基板管理控制器獲取服務(wù)器的運(yùn)行參數(shù)還包括：