[發(fā)明專(zhuān)利]一種基于嵌入式的分布式深度學(xué)習(xí)模型資源彈性調(diào)度方法

在審

• 申請(qǐng)?zhí)枺?/td>: 202210524307.6
• 申請(qǐng)日: 2022-05-13
• 公開(kāi)（公告）號(hào): CN115016932A
• 公開(kāi)（公告）日: 2022-09-06
• 發(fā)明（設(shè)計(jì)）人: 殷光強(qiáng);王治國(guó);米爾卡米力江·亞森;李超;丁玉峰
• 申請(qǐng)（專(zhuān)利權(quán)）人: 電子科技大學(xué)
• 主分類(lèi)號(hào): G06F9/50
• 分類(lèi)號(hào): G06F9/50;G06N7/00;G06V10/96;G06V10/94;G06V10/82;G06V10/774;G06N3/10;G06N3/08;G06N3/04
• 代理公司: 成都天嘉專(zhuān)利事務(wù)所(普通合伙) 51211
• 代理人: 彭紅艷

1.一種基于嵌入式的分布式深度學(xué)習(xí)模型資源彈性調(diào)度方法，其特征在于：包括構(gòu)建計(jì)算精度和計(jì)算延遲的復(fù)合獎(jiǎng)勵(lì)模型、構(gòu)建非受限馬爾可夫決策過(guò)程以及利用深度確定性策略算法動(dòng)態(tài)求解最優(yōu)彈性調(diào)度策略；

其中，構(gòu)建計(jì)算精度和計(jì)算延遲的復(fù)合獎(jiǎng)勵(lì)模型指：通過(guò)對(duì)本地計(jì)算和任務(wù)卸載時(shí)的精度和延時(shí)參數(shù)建立模型，從而構(gòu)建馬爾可夫決策過(guò)程中的獎(jiǎng)勵(lì)函數(shù)；

所述構(gòu)建非受限馬爾可夫決策過(guò)程指：將采樣率、任務(wù)卸載和邊緣計(jì)算位置作為行動(dòng)，將本地計(jì)算隊(duì)列和邊緣計(jì)算隊(duì)列的積壓量、信道狀態(tài)以及原始數(shù)據(jù)大小作為狀態(tài)，將最小化計(jì)算服務(wù)延遲作為獎(jiǎng)勵(lì)，構(gòu)建受限馬爾可夫決策過(guò)程，并采用Lyapunov優(yōu)化方法進(jìn)行轉(zhuǎn)化，構(gòu)建準(zhǔn)確性隊(duì)列來(lái)形容計(jì)算服務(wù)精度的長(zhǎng)期表現(xiàn)，引導(dǎo)深度強(qiáng)化學(xué)習(xí)網(wǎng)絡(luò)傾向于滿足長(zhǎng)期的精度約束，得到轉(zhuǎn)化后的非受限馬爾可夫決策過(guò)程，即：

行動(dòng)：包括采樣率的選擇，任務(wù)卸載和邊緣計(jì)算資源的分配，描述為：

狀態(tài)：包括本地計(jì)算時(shí)隊(duì)列中積壓的任務(wù)邊緣計(jì)算設(shè)備中積壓的任務(wù)信道狀態(tài)計(jì)算任務(wù)中的原始數(shù)據(jù)大小描述為：

獎(jiǎng)勵(lì)：最小化計(jì)算服務(wù)的延遲，描述為：

概率轉(zhuǎn)移函數(shù)：

非受限馬爾科夫決策過(guò)程P₁為：

P₁:

其中，X^t為t時(shí)刻的采樣率決策矩陣，o^t代表t時(shí)刻的任務(wù)卸載決策向量，c^t為邊緣計(jì)算資源分配向量，為t時(shí)刻的狀態(tài)，為t時(shí)刻的精度值隊(duì)列；為第m個(gè)計(jì)算服務(wù)的精度閾值，A_m(X^t,o^t)為第m個(gè)計(jì)算服務(wù)在t時(shí)刻的精度，D(X^t,o^t,c^t)為t時(shí)刻的計(jì)算服務(wù)延遲；

所述利用深度確定性策略算法動(dòng)態(tài)求解最優(yōu)彈性調(diào)度策略指：采用深度確定性策略梯度算法，實(shí)現(xiàn)采樣率、任務(wù)卸載和邊緣計(jì)算位置的動(dòng)態(tài)調(diào)整。

2.根據(jù)權(quán)利要求1所述的一種基于嵌入式的分布式深度學(xué)習(xí)模型資源彈性調(diào)度方法，其特征在于：所述t時(shí)刻的計(jì)算服務(wù)延遲D(X^t,o^t,c^t)和第m個(gè)計(jì)算服務(wù)在t時(shí)刻的精度A_m(X^t,o^t)的計(jì)算方法為：

令分布式深度學(xué)習(xí)模型有N個(gè)邊緣計(jì)算設(shè)備，M個(gè)服務(wù)器計(jì)算節(jié)點(diǎn)，系統(tǒng)的時(shí)間劃分為長(zhǎng)度為τ的時(shí)隙，各時(shí)隙由t∈{1,2,...,T}時(shí)刻表示，每一時(shí)刻邊緣設(shè)備接收到的圖像數(shù)據(jù)都被看作單個(gè)計(jì)算任務(wù)，選擇被卸載至遠(yuǎn)端計(jì)算節(jié)點(diǎn)或者直接在本地進(jìn)行處理；令o^t∈R^N×1代表t時(shí)刻的卸載決策向量，表示t時(shí)刻的任務(wù)卸載至第n個(gè)邊緣計(jì)算設(shè)備，則表示該計(jì)算任務(wù)在本地執(zhí)行；令表示t時(shí)刻第n個(gè)設(shè)備接收到的原始的數(shù)據(jù)量，K＝{θ₁,θ₂,...,θ_K}表示參考采樣率，其中θ_K為原始采樣率，其余采樣率以原始采樣率成比例線性分布θ_k＝kθ_K/K，X^t為t時(shí)刻的采樣率決策矩陣，其元素表示t時(shí)刻n設(shè)備采用θ_k采樣率；

t時(shí)刻的計(jì)算服務(wù)延遲D(X^t,o^t,c^t)為：

第m個(gè)計(jì)算服務(wù)在t時(shí)刻的精度A_m(X^t,o^t)為：

其中，為設(shè)備的延遲排隊(duì)延遲和任務(wù)處理延遲，為卸載過(guò)程中數(shù)據(jù)在網(wǎng)絡(luò)中的傳輸時(shí)延，為任務(wù)處理時(shí)延，為處理積壓的邊緣節(jié)點(diǎn)中的任務(wù)的排隊(duì)時(shí)延，為邊緣計(jì)算設(shè)備n任務(wù)完成前，所有新到達(dá)任務(wù)的平均等待延遲；u(x)為階躍函數(shù)，ω_p0為隊(duì)列溢出的懲罰系數(shù)，為在設(shè)備n中本地計(jì)算拋棄的任務(wù)，為m邊緣計(jì)算設(shè)備拋棄的任務(wù)；h_m,c為壓縮后的神經(jīng)網(wǎng)絡(luò)推斷精度，h_m,u為未被壓縮的推斷精度。