[發(fā)明專(zhuān)利]資源調(diào)度方法、裝置及系統(tǒng)

在審

• 申請(qǐng)?zhí)枺?/td>: 201911007646.1
• 申請(qǐng)日: 2019-10-22
• 公開(kāi)（公告）號(hào): CN110941481A
• 公開(kāi)（公告）日: 2020-03-31
• 發(fā)明（設(shè)計(jì)）人: 黃小建
• 申請(qǐng)（專(zhuān)利權(quán)）人: 華為技術(shù)有限公司
• 主分類(lèi)號(hào): G06F9/48
• 分類(lèi)號(hào): G06F9/48;G06F9/50
• 代理公司: 北京三高永信知識(shí)產(chǎn)權(quán)代理有限責(zé)任公司 11138
• 代理人: 顏晶

本申請(qǐng)?zhí)峁┝艘环N資源調(diào)度方法、裝置及系統(tǒng)，屬于云計(jì)算領(lǐng)域。該方法包括：接收每個(gè)資源節(jié)點(diǎn)上報(bào)的其所包括的調(diào)度單元的總數(shù)，其中，每個(gè)資源節(jié)點(diǎn)中的每個(gè)圖形處理器包括基于其顯存大小劃分的多個(gè)調(diào)度單元；根據(jù)接收到的目標(biāo)任務(wù)的調(diào)度請(qǐng)求中攜帶的調(diào)度單元的數(shù)量，確定目標(biāo)任務(wù)的資源分配結(jié)果，該資源分配結(jié)果用于指示為該目標(biāo)任務(wù)分配的一個(gè)或多個(gè)目標(biāo)圖形處理器，以及每個(gè)目標(biāo)圖形處理器中所分配的目標(biāo)調(diào)度單元的數(shù)量；將該目標(biāo)任務(wù)的資源分配結(jié)果發(fā)送至資源節(jié)點(diǎn)。本申請(qǐng)?zhí)峁┑姆桨改軌蛞哉{(diào)度單元為單位，為目標(biāo)任務(wù)分配圖形處理器的資源，使得不同任務(wù)能夠共享一個(gè)圖形處理器的資源，有效提高了圖形處理器的資源利用率。

技術(shù)領(lǐng)域

本申請(qǐng)涉及云計(jì)算領(lǐng)域，特別涉及一種資源調(diào)度方法、裝置及系統(tǒng)。

背景技術(shù)

計(jì)算量較大的圖形處理任務(wù)一般采用云服務(wù)器集群進(jìn)行處理，該云服務(wù)器集群可以包括資源管理節(jié)點(diǎn)和多個(gè)資源節(jié)點(diǎn)，其中每個(gè)資源節(jié)點(diǎn)中設(shè)置有一個(gè)或多個(gè)圖形處理器(graphics processing unit，GPU)，資源管理節(jié)點(diǎn)可以實(shí)現(xiàn)云服務(wù)器集群中各資源節(jié)點(diǎn)的GPU的管理和調(diào)度。

相關(guān)技術(shù)中，資源管理節(jié)點(diǎn)在接收到客戶(hù)端上報(bào)的針對(duì)某個(gè)任務(wù)的調(diào)度請(qǐng)求后，可以為該任務(wù)分配某個(gè)資源節(jié)點(diǎn)中的一個(gè)或多個(gè)GPU，并指示該一個(gè)或多個(gè)GPU執(zhí)行該任務(wù)。但是，資源管理節(jié)點(diǎn)在分配GPU時(shí)，僅能將一個(gè)GPU分配至一個(gè)任務(wù)，即每個(gè)GPU只被一個(gè)任務(wù)獨(dú)占，由于一個(gè)任務(wù)可能無(wú)法充分利用一個(gè)GPU的資源，導(dǎo)致GPU的資源利用率較低。

發(fā)明內(nèi)容

本申請(qǐng)實(shí)施例提供了一種資源調(diào)度方法、裝置及系統(tǒng)，可以提高GPU的資源利用率，技術(shù)方案如下：

一方面，提供了一種資源調(diào)度方法，該方法可以包括：接收資源調(diào)度系統(tǒng)中每個(gè)資源節(jié)點(diǎn)上報(bào)的該資源節(jié)點(diǎn)所包括的調(diào)度單元的總數(shù)，其中，每個(gè)資源節(jié)點(diǎn)包括一個(gè)或多個(gè)圖形處理器，每個(gè)圖形處理器包括基于該GPU的顯存大小劃分的多個(gè)調(diào)度單元；接收目標(biāo)任務(wù)的調(diào)度請(qǐng)求，該調(diào)度請(qǐng)求中攜帶有執(zhí)行該目標(biāo)任務(wù)所需的調(diào)度單元的數(shù)量；根據(jù)該調(diào)度請(qǐng)求中攜帶的調(diào)度單元的數(shù)量，確定該目標(biāo)任務(wù)的資源分配結(jié)果，該資源分配結(jié)果用于指示為該目標(biāo)任務(wù)分配的一個(gè)或多個(gè)目標(biāo)GPU，以及每個(gè)目標(biāo)GPU中所分配的目標(biāo)調(diào)度單元的數(shù)量，其中，一個(gè)或多個(gè)目標(biāo)GPU屬于同一個(gè)該資源節(jié)點(diǎn)；將該目標(biāo)任務(wù)的資源分配結(jié)果發(fā)送至一個(gè)或多個(gè)目標(biāo)GPU所屬的資源節(jié)點(diǎn)。

本申請(qǐng)實(shí)施例提供的方案，由于資源節(jié)點(diǎn)中每個(gè)GPU的顯存被劃分為多個(gè)調(diào)度單元，因此資源管理節(jié)點(diǎn)在接收到目標(biāo)任務(wù)的調(diào)度請(qǐng)求后，能夠以調(diào)度單元為單位，為該目標(biāo)任務(wù)分配GPU的資源，使得不同任務(wù)能夠共享一個(gè)GPU的資源，實(shí)現(xiàn)了GPU資源的精細(xì)化共享，有效提高了GPU的資源利用率。

可選地，根據(jù)該調(diào)度請(qǐng)求中攜帶的調(diào)度單元的數(shù)量，確定該目標(biāo)任務(wù)的資源分配結(jié)果的過(guò)程可以包括：

根據(jù)該調(diào)度請(qǐng)求中攜帶的調(diào)度單元的數(shù)量，以及每個(gè)資源節(jié)點(diǎn)中剩余可分配的調(diào)度單元的數(shù)量，確定一個(gè)或多個(gè)備選資源節(jié)點(diǎn)，每個(gè)備選資源節(jié)點(diǎn)中剩余可分配的調(diào)度單元的數(shù)量大于該調(diào)度請(qǐng)求中攜帶的調(diào)度單元的數(shù)量；從該一個(gè)或多個(gè)備選資源節(jié)點(diǎn)中確定一個(gè)目標(biāo)資源節(jié)點(diǎn)；基于該目標(biāo)資源節(jié)點(diǎn)中剩余可分配的調(diào)度單元的數(shù)量，確定該目標(biāo)任務(wù)的資源分配結(jié)果。

其中，該目標(biāo)資源節(jié)點(diǎn)可以是從該一個(gè)或多個(gè)備選資源節(jié)點(diǎn)中隨機(jī)選取的，或者，也可以是該一個(gè)或多個(gè)備選資源節(jié)點(diǎn)中，剩余可分配的調(diào)度單元的數(shù)量與該調(diào)度請(qǐng)求中攜帶的調(diào)度單元的數(shù)量最接近的一個(gè)備選資源節(jié)點(diǎn)。

可選地，該調(diào)度請(qǐng)求中還攜帶有該目標(biāo)任務(wù)的優(yōu)先級(jí)，根據(jù)該調(diào)度請(qǐng)求中攜帶的調(diào)度單元的數(shù)量，確定該目標(biāo)任務(wù)的資源分配結(jié)果的過(guò)程可以包括：

若檢測(cè)到該目標(biāo)任務(wù)的優(yōu)先級(jí)高于其他每個(gè)未分配資源的任務(wù)的優(yōu)先級(jí)，則根據(jù)該調(diào)度請(qǐng)求中攜帶的調(diào)度單元的數(shù)量，確定該目標(biāo)任務(wù)的資源分配結(jié)果。

按照任務(wù)的優(yōu)先級(jí)由高到低的順序，依次為各個(gè)任務(wù)分配資源，可以確保優(yōu)先級(jí)較高的任務(wù)能夠及時(shí)執(zhí)行。