[發(fā)明專利]一種面向人工智能服務(wù)的資源分配方法、裝置及電子設(shè)備

在審

• 申請?zhí)枺?/td>: 202011295444.4
• 申請日: 2020-11-18
• 公開（公告）號: CN112486674A
• 公開（公告）日: 2021-03-12
• 發(fā)明（設(shè)計）人: 李亞杰;張杰;曾澤斌;趙永利;劉明哲
• 申請（專利權(quán)）人: 北京郵電大學(xué)
• 主分類號: G06F9/50
• 分類號: G06F9/50
• 代理公司: 北京風(fēng)雅頌專利代理有限公司 11403
• 代理人: 李翔

本說明書一個或多個實施例提供一種面向人工智能服務(wù)的資源分配方法、裝置及電子設(shè)備，根據(jù)待計算的網(wǎng)絡(luò)模型，確定需要參與訓(xùn)練的邊緣服務(wù)器的個數(shù)N，從邊緣服務(wù)器隊列中挨個的獲取邊緣服務(wù)器，針對每次獲取的邊緣服務(wù)器，判斷其的計算資源與鏈路資源是否充足，直至獲取N個計算資源與鏈路資源充足的邊緣服務(wù)器，再根據(jù)每個邊緣服務(wù)器的計算資源和鏈路資源，進(jìn)行資源分配，優(yōu)化資源，有效的節(jié)約模型訓(xùn)練時間。

技術(shù)領(lǐng)域

本說明書一個或多個實施例涉及資源分配技術(shù)領(lǐng)域，尤其涉及一種面向人工智能服務(wù)的資源分配方法、裝置及電子設(shè)備。

背景技術(shù)

現(xiàn)有的基于云節(jié)點的分布式人工智能模型訓(xùn)練的技術(shù)主要為：構(gòu)建云服務(wù)器以及多個邊緣服務(wù)器構(gòu)成的訓(xùn)練網(wǎng)絡(luò)，云服務(wù)器將需要訓(xùn)練的人工智能原始數(shù)據(jù)集進(jìn)行分割，并將分割得到的各個模塊分發(fā)至各個邊緣服務(wù)器進(jìn)行訓(xùn)練，訓(xùn)練結(jié)果反饋至云服務(wù)器，從而實現(xiàn)人工智能模型的訓(xùn)練過程。

但是，發(fā)明人發(fā)現(xiàn)，在這種基于云服務(wù)器進(jìn)行同步更新的模型訓(xùn)練方式下，由于沒有充分利用邊緣服務(wù)器的計算和帶寬資源，造成資源浪費，增加了模型訓(xùn)練的時間。例如，在資源充足的邊緣服務(wù)器上，訓(xùn)練過程時間較短，在一次訓(xùn)練迭代的過程中，花費了較多的時間等待參與訓(xùn)練的邊緣服務(wù)器完成該次迭代過程，而資源有限的邊緣服務(wù)器則花費更多的時間在計算和數(shù)據(jù)傳輸上，成為了訓(xùn)練過程中的“瓶頸”節(jié)點。

發(fā)明內(nèi)容

有鑒于此，本說明書一個或多個實施例的目的在于提出一種面向人工智能服務(wù)的資源分配方法、裝置及電子設(shè)備，能夠?qū)椥怨饩W(wǎng)絡(luò)中的邊緣服務(wù)器進(jìn)行資源分配，優(yōu)化資源，節(jié)約模型訓(xùn)練時間。

基于上述目的，本說明書一個或多個實施例提供了一種面向人工智能服務(wù)的資源分配方法，包括：

獲得待計算的網(wǎng)絡(luò)模型；

基于所述網(wǎng)絡(luò)模型確定參與訓(xùn)練的邊緣服務(wù)器的個數(shù)N；

從邊緣服務(wù)器隊列中獲取一個邊緣服務(wù)器；

判斷所述邊緣服務(wù)器是否具有足夠的計算資源和鏈路資源，若所述邊緣服務(wù)器的計算資源和/或鏈路資源不足，則放棄該邊緣服務(wù)器，并返回執(zhí)行獲取邊緣服務(wù)器的步驟；若所述邊緣服務(wù)器的計算資源和鏈路資源足夠，則判斷已獲取的邊緣服務(wù)器的數(shù)量n是否等于N，若n＜N，則返回執(zhí)行獲取邊緣服務(wù)器的步驟，若n＝N，則根據(jù)每個邊緣服務(wù)器的計算資源和鏈路資源，進(jìn)行資源分配。

作為一種可選的實施方式，所述從邊緣服務(wù)器隊列中獲取一個邊緣服務(wù)器，包括：

獲取邊緣服務(wù)器隊列中的每個邊緣服務(wù)器的計算資源和鏈路資源；

基于所述計算資源和鏈路資源，對所述邊緣服務(wù)器進(jìn)行排序，獲得排序后的邊緣服務(wù)器隊列；

從排序后的邊緣服務(wù)器隊列中獲取一個邊緣服務(wù)器。

作為一種可選的實施方式，所述基于所述計算資源和鏈路資源，對所述邊緣服務(wù)器進(jìn)行排序，包括：

對每個邊緣服務(wù)器的計算資源和鏈路資源進(jìn)行加權(quán)，并按照加權(quán)值從大至小的順序?qū)λ鲞吘壏?wù)器進(jìn)行排序。

作為一種可選的實施方式，所述若n＝N，則根據(jù)每個邊緣服務(wù)器的計算資源和鏈路資源，進(jìn)行資源分配，包括：

若n＝N，判斷n個邊緣服務(wù)器的計算資源與鏈路資源是否滿足訓(xùn)練QoS；

若n個邊緣服務(wù)器的計算資源與鏈路資源滿足訓(xùn)練QoS，則根據(jù)每個邊緣服務(wù)器的計算資源和鏈路資源，進(jìn)行資源分配；若n個邊緣服務(wù)器的計算資源與鏈路資源不滿足訓(xùn)練QoS，則停止資源分配。

作為一種可選的實施方式，所述放棄該邊緣服務(wù)器，并返回執(zhí)行獲取邊緣服務(wù)器的步驟，包括：

放棄該邊緣服務(wù)器；