[發(fā)明專利]一種資源調(diào)度方法、裝置、電子設(shè)備及存儲(chǔ)介質(zhì)

有效

• 申請(qǐng)?zhí)枺?/td>: 201910578725.1
• 申請(qǐng)日: 2019-06-28
• 公開（公告）號(hào): CN112148468B
• 公開（公告）日: 2023-10-10
• 發(fā)明（設(shè)計(jì)）人: 何猛;葉挺群
• 申請(qǐng)（專利權(quán)）人: 杭州海康威視數(shù)字技術(shù)股份有限公司
• 主分類號(hào): G06F9/50
• 分類號(hào): G06F9/50
• 代理公司: 北京柏杉松知識(shí)產(chǎn)權(quán)代理事務(wù)所(普通合伙) 11413
• 代理人: 孫翠賢;高鶯然

1.一種資源調(diào)度方法，其特征在于，應(yīng)用于GPU服務(wù)器集群中的調(diào)度節(jié)點(diǎn)，所述GPU服務(wù)器集群中的各個(gè)GPU服務(wù)器被劃分為第一類服務(wù)器和第二類GPU服務(wù)器，所述方法包括：

獲取待處理任務(wù)，并根據(jù)所述待處理任務(wù)所需的目標(biāo)GPU資源，確定所述待處理任務(wù)的類型；其中，所述類型包括：整機(jī)任務(wù)和碎片任務(wù)；

當(dāng)所述待處理任務(wù)的類型為整機(jī)任務(wù)時(shí)，基于所述目標(biāo)GPU資源，確定所述待處理任務(wù)所需GPU服務(wù)器的數(shù)量，將所述待處理任務(wù)分配到所述數(shù)量個(gè)所述第一類服務(wù)器中；

當(dāng)所述待處理任務(wù)的類型為碎片任務(wù)時(shí)，將所述待處理任務(wù)分配到GPU資源滿足所述目標(biāo)GPU資源的所述第二類服務(wù)器中。

2.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述待處理任務(wù)為目標(biāo)數(shù)量個(gè)，所述目標(biāo)數(shù)量大于1；

所述當(dāng)所述待處理任務(wù)的類型為碎片任務(wù)時(shí)，將所述待處理任務(wù)分配到GPU資源滿足所述目標(biāo)GPU資源的所述第二類服務(wù)器中的步驟，包括：

當(dāng)所述目標(biāo)數(shù)量個(gè)待處理任務(wù)中存在多個(gè)待處理任務(wù)的類型為碎片任務(wù)時(shí)，在所述多個(gè)待處理任務(wù)中，如果至少兩個(gè)待處理任務(wù)中每個(gè)待處理任務(wù)的目標(biāo)GPU資源滿足預(yù)設(shè)資源關(guān)系，將所述至少兩個(gè)待處理任務(wù)分配到一第一服務(wù)器中，其中，所述第一服務(wù)器為GPU資源滿足所述至少兩個(gè)待處理任務(wù)的目標(biāo)GPU資源之和的所述第二類服務(wù)器；

如果所述多個(gè)待處理任務(wù)中存在未被分配的待處理任務(wù)，針對(duì)每個(gè)未被分配的待處理任務(wù)，將該待處理任務(wù)分配到GPU資源滿足所述待處理任務(wù)的所述第二類服務(wù)器中；

其中，所述預(yù)設(shè)資源關(guān)系為：所述至少兩個(gè)待處理任務(wù)中每個(gè)待處理任務(wù)的目標(biāo)GPU資源的數(shù)量相同，且所述至少兩個(gè)待處理任務(wù)的目標(biāo)GPU資源之和不大于所述第二類服務(wù)器所能提供的最大GPU資源；

或，

所述預(yù)設(shè)資源關(guān)系為：所述至少兩個(gè)待處理任務(wù)的目標(biāo)GPU資源之和等于所述第二類服務(wù)器所能提供的最大GPU資源。

3.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述當(dāng)所述待處理任務(wù)的類型為碎片任務(wù)時(shí)，將所述待處理任務(wù)分配到GPU資源滿足所述目標(biāo)GPU資源的所述第二類服務(wù)器中的步驟，包括：

當(dāng)所述待處理任務(wù)的類型為碎片任務(wù)時(shí)，利用所述待處理任務(wù)的任務(wù)信息，預(yù)測(cè)所述待處理任務(wù)的運(yùn)行時(shí)長，作為預(yù)測(cè)運(yùn)行時(shí)長；

基于所述預(yù)測(cè)運(yùn)行時(shí)長，將所述待處理任務(wù)分配到GPU資源滿足所述待處理任務(wù)的所述第二類服務(wù)器中。

4.根據(jù)權(quán)利要求3所述的方法，其特征在于，所述待處理任務(wù)為目標(biāo)數(shù)量個(gè)，所述目標(biāo)數(shù)量大于1；

所述當(dāng)所述待處理任務(wù)的類型為碎片任務(wù)時(shí)，利用所述待處理任務(wù)的任務(wù)信息，預(yù)測(cè)所述待處理任務(wù)的運(yùn)行時(shí)長，作為預(yù)測(cè)運(yùn)行時(shí)長的步驟，包括：

當(dāng)所述目標(biāo)數(shù)量個(gè)待處理任務(wù)中存在多個(gè)待處理任務(wù)的類型為碎片任務(wù)時(shí)，利用所述多個(gè)待處理任務(wù)中的各個(gè)待處理任務(wù)的任務(wù)信息，分別預(yù)測(cè)各個(gè)待處理任務(wù)的運(yùn)行時(shí)長，作為各個(gè)待處理任務(wù)的預(yù)測(cè)運(yùn)行時(shí)長；

所述基于所述預(yù)測(cè)運(yùn)行時(shí)長，將所述待處理任務(wù)分配到GPU資源滿足所述待處理任務(wù)的所述第二類服務(wù)器中的步驟，包括：

在所述多個(gè)待處理任務(wù)中，如果至少兩個(gè)待處理任務(wù)中任兩個(gè)待處理任務(wù)的預(yù)測(cè)運(yùn)行時(shí)長差值小于預(yù)設(shè)時(shí)長閾值，且所述至少兩個(gè)待處理任務(wù)的目標(biāo)GPU資源之和不大于所述第二類服務(wù)器所能提供的最大GPU資源，將所述至少兩個(gè)待處理任務(wù)分配到一第二服務(wù)器，所述第二服務(wù)器為GPU資源滿足所述至少兩個(gè)待處理任務(wù)的目標(biāo)GPU資源之和的所述第二類服務(wù)器；

如果所述多個(gè)待處理任務(wù)中存在未被分配的待處理任務(wù)，針對(duì)每個(gè)未被分配的待處理任務(wù)，將該待處理任務(wù)分配到GPU資源滿足所述待處理任務(wù)的所述第二類服務(wù)器中。

5.根據(jù)權(quán)利要求3所述的方法，其特征在于，所述基于所述預(yù)測(cè)運(yùn)行時(shí)長，將所述待處理任務(wù)分配到GPU資源滿足所述待處理任務(wù)的所述第二類服務(wù)器中的步驟，包括：

在各個(gè)所述第二類服務(wù)器中，確定GPU資源滿足所述待處理任務(wù)的各個(gè)候選服務(wù)器；

基于所述預(yù)測(cè)運(yùn)行時(shí)長，以及各個(gè)所述候選服務(wù)器當(dāng)前所運(yùn)行任務(wù)的待運(yùn)行時(shí)長，在各個(gè)所述候選服務(wù)器中，確定第三服務(wù)器，并將所述待處理任務(wù)分配到所述第三服務(wù)器中。