[發(fā)明專利]基于微服務(wù)鏈路分析和強(qiáng)化學(xué)習(xí)的調(diào)度方法及裝置

在審

• 申請(qǐng)?zhí)枺?/td>: 202210323609.7
• 申請(qǐng)日: 2022-03-30
• 公開（公告）號(hào): CN114780233A
• 公開（公告）日: 2022-07-22
• 發(fā)明（設(shè)計(jì)）人: 徐敏賢;宋承浩;葉可江;須成忠
• 申請(qǐng)（專利權(quán)）人: 深圳先進(jìn)技術(shù)研究院
• 主分類號(hào): G06F9/50
• 分類號(hào): G06F9/50;G06N3/04;G06N3/08;G06N20/00;H04L67/60
• 代理公司: 深圳市科進(jìn)知識(shí)產(chǎn)權(quán)代理事務(wù)所(普通合伙) 44316
• 代理人: 劉建偉

本發(fā)明涉及一種基于微服務(wù)鏈路分析和強(qiáng)化學(xué)習(xí)的調(diào)度方法及裝置。該方法及裝置基于深度學(xué)習(xí)模型來對(duì)云服務(wù)器集群進(jìn)行調(diào)度，強(qiáng)化學(xué)習(xí)可以選用三種不同的調(diào)度方式：橫向擴(kuò)展、縱向擴(kuò)展與管制。本發(fā)明利用基于深度學(xué)習(xí)模型的工作負(fù)載與鏈路分析器對(duì)微服務(wù)的鏈路進(jìn)行分析與決策，選取最長延遲的關(guān)鍵路徑與關(guān)鍵節(jié)點(diǎn)。本發(fā)明基于Deep Q?Learning的強(qiáng)化學(xué)習(xí)算法，對(duì)云服務(wù)器負(fù)載數(shù)據(jù)進(jìn)行訓(xùn)練，利用該算法訓(xùn)練出適應(yīng)于不同負(fù)載狀態(tài)下的深度學(xué)習(xí)模型。本發(fā)明解決了可能存在的鏈路長度與微服務(wù)延遲不匹配的問題，能得到一個(gè)針對(duì)延遲本身的優(yōu)化目標(biāo)，依據(jù)于此對(duì)云服務(wù)器進(jìn)行資源調(diào)度能有效的緩解存在的微服務(wù)鏈路延遲問題。

技術(shù)領(lǐng)域

本發(fā)明涉及一種基于微服務(wù)鏈路分析和強(qiáng)化學(xué)習(xí)的調(diào)度方法及裝置。

背景技術(shù)

云服務(wù)器的微服務(wù)調(diào)度算法已經(jīng)成為了考驗(yàn)高變動(dòng)負(fù)載下云服務(wù)器負(fù)載能力的重要指標(biāo)之一。一個(gè)優(yōu)秀的微服務(wù)鏈路調(diào)度算法能夠?yàn)樵品?wù)器提供商減少服務(wù)器資源的浪費(fèi)，也能大大提高云服務(wù)器使用者的用戶體驗(yàn)，提高云服務(wù)器的穩(wěn)定性，使得云服務(wù)器中的微服務(wù)的資源分配更加合理，提高整個(gè)云服務(wù)器集群中微服務(wù)的魯棒性。目前而言，主流的云服務(wù)器微服務(wù)鏈路延遲調(diào)度算法包括有資源分配調(diào)度算法、基于最長鏈路的微服務(wù)調(diào)度算法。其中：

(1)資源分配調(diào)度算法：資源分配調(diào)度算法利用了云服務(wù)器微服務(wù)本身的預(yù)設(shè)資源來進(jìn)行分配。在資源充足的情況下能取得較好的效果。在這種資源分配方式下可以盡可能的減少微服務(wù)之間資源的競爭，一定程度上提高了云服務(wù)器的穩(wěn)定性。

(2)基于最長鏈路的微服務(wù)調(diào)度算法：基于最長鏈路的微服務(wù)調(diào)度算法利用了微服務(wù)之前的鏈路關(guān)系來進(jìn)行資源的分配。對(duì)于集群中的微服務(wù)而言，通過分析其鏈路關(guān)系可以得到鏈路中最長的一條或多條鏈路，依據(jù)此標(biāo)準(zhǔn)來對(duì)資源進(jìn)行分配。具有最長鏈路的微服務(wù)鏈路上的所有微服務(wù)將被優(yōu)先分配資源，依次從鏈路最長到鏈路最短來進(jìn)行資源的分配。在這種資源分配方式下能一定程度上緩解微服務(wù)之間的資源競爭，優(yōu)先給較長鏈路提供更多的資源，也能降低微服務(wù)整體的時(shí)間延遲。

但現(xiàn)有的許多預(yù)測方法諸如回歸預(yù)測方法雖然能夠提供對(duì)于簡單的時(shí)間序列預(yù)測的結(jié)果，但是難以應(yīng)對(duì)目前高維度的云服務(wù)器工作負(fù)載預(yù)測問題。雖然循環(huán)神經(jīng)網(wǎng)絡(luò)與長短期記憶能相對(duì)準(zhǔn)確的得到短時(shí)間內(nèi)的服務(wù)器負(fù)載預(yù)測值，但是由于其結(jié)構(gòu)與問題，對(duì)一段時(shí)間內(nèi)的工作負(fù)載預(yù)測不夠準(zhǔn)確，長短期記憶的預(yù)測時(shí)間也較長，時(shí)效性不佳。

同時(shí)現(xiàn)有的許多主流的微服務(wù)資源調(diào)度方法雖然能夠?qū)Y源充足情況下的微服務(wù)進(jìn)行簡單的調(diào)度，但是難以應(yīng)付對(duì)于延遲高度敏感的云服務(wù)器集群中的資源競爭。按照資源分配調(diào)度算法，在云服務(wù)器集群中，經(jīng)常有數(shù)十個(gè)容器同時(shí)運(yùn)行在一個(gè)節(jié)點(diǎn)上，導(dǎo)致了微服務(wù)的資源并不能按照預(yù)設(shè)的資源來進(jìn)行分配，會(huì)出現(xiàn)資源競爭。這種調(diào)度算法并不適用于目前的云服務(wù)器集群架構(gòu)中。按照基于最長鏈路的微服務(wù)調(diào)度算法，若遇到微服務(wù)的關(guān)鍵節(jié)點(diǎn)不在最長鏈路上的情況下，不能正確的分配資源給關(guān)鍵節(jié)點(diǎn)，這導(dǎo)致了云服務(wù)器中的微服務(wù)延遲問題不能得到及時(shí)解決。

發(fā)明內(nèi)容

本發(fā)明實(shí)施例提供了一種基于微服務(wù)鏈路分析和強(qiáng)化學(xué)習(xí)的調(diào)度方法及裝置，以至少解決現(xiàn)有云服務(wù)器中的微服務(wù)延遲的技術(shù)問題。

根據(jù)本發(fā)明的一實(shí)施例，提供了一種基于微服務(wù)鏈路分析和強(qiáng)化學(xué)習(xí)的調(diào)度方法，包括以下步驟：

基于深度學(xué)習(xí)模型的工作負(fù)載與鏈路分析器對(duì)云服務(wù)器微服務(wù)的鏈路進(jìn)行分析與決策，選取最長延遲的關(guān)鍵路徑與關(guān)鍵節(jié)點(diǎn)，獲取云服務(wù)器負(fù)載數(shù)據(jù)；

基于Deep Q-Learning的強(qiáng)化學(xué)習(xí)算法，對(duì)云服務(wù)器負(fù)載數(shù)據(jù)進(jìn)行訓(xùn)練，利用基于Deep Q-Learning的強(qiáng)化學(xué)習(xí)算法訓(xùn)練出適應(yīng)于不同負(fù)載狀態(tài)下的深度學(xué)習(xí)模型；

使用深度學(xué)習(xí)模型對(duì)云服務(wù)器集群進(jìn)行集群調(diào)度，其中調(diào)度方式包括：橫向擴(kuò)展、縱向擴(kuò)展與管制。

進(jìn)一步地，基于深度學(xué)習(xí)模型的工作負(fù)載與鏈路分析器對(duì)云服務(wù)器微服務(wù)的鏈路進(jìn)行分析與決策，選取最長延遲的關(guān)鍵路徑與關(guān)鍵節(jié)點(diǎn)，獲取云服務(wù)器負(fù)載數(shù)據(jù)包括：