[發(fā)明專利]計算資源調(diào)度方法及裝置

在審

• 申請?zhí)枺?/td>: 201910654089.6
• 申請日: 2019-07-19
• 公開（公告）號: CN110362407A
• 公開（公告）日: 2019-10-22
• 發(fā)明（設(shè)計）人: 郭振宇;黃炳;姜璐;鐘華
• 申請（專利權(quán)）人: 中國工商銀行股份有限公司
• 主分類號: G06F9/50
• 分類號: G06F9/50
• 代理公司: 北京三友知識產(chǎn)權(quán)代理有限公司 11127
• 代理人: 王濤;任默聞

本申請實施例提供一種計算資源調(diào)度方法及裝置，方法包括：根據(jù)GPU當(dāng)前資源占用信息，確定與目標(biāo)任務(wù)的資源需求對應(yīng)的GPU當(dāng)前可分配資源；根據(jù)所述GPU當(dāng)前可分配資源對所述目標(biāo)任務(wù)進(jìn)行GPU資源分配；本申請能夠有效對GPU資源進(jìn)行動態(tài)調(diào)整，保證GPU資源利用率最大化，進(jìn)而提升任務(wù)處理的整體性能。

技術(shù)領(lǐng)域

本申請涉及數(shù)據(jù)處理領(lǐng)域，具體涉及一種計算資源調(diào)度方法及裝置。

背景技術(shù)

目前，在例如HPC(High Performance Computing，高性能計算機(jī)群)計算和深度學(xué)習(xí)計算等大規(guī)模數(shù)據(jù)并行計算過程中經(jīng)常使用GPU+CPU的異構(gòu)計算體系，發(fā)明人發(fā)現(xiàn)針對異構(gòu)計算體系的資源調(diào)度方法，尤其是針對GPU的資源調(diào)度方法至少存在以下缺陷：

1、GPU資源存在利用率不足：GPU與CPU最大的不同點在于，CPU設(shè)計包含了很多邏輯控制，如任務(wù)調(diào)度、布置流水等處理，但是GPU不支持這些邏輯控制功能。例如通過GPU先后運行兩個任務(wù)A、B，雖然任務(wù)B的優(yōu)先級高于任務(wù)A，但是無法搶占任務(wù)A的資源，因為GPU無法實現(xiàn)調(diào)度優(yōu)先級處理。同樣也是因為GPU不支持任務(wù)的調(diào)度處理，當(dāng)先后啟動兩個任務(wù)A、B時，假設(shè)當(dāng)前GPU資源可以滿足A和B同時運行，但是實際上由于A申請了較大的資源值，在任務(wù)A運行過程中，存在部分空閑資源無法利用的情況，而現(xiàn)有的GPU的資源調(diào)度方法無法動態(tài)調(diào)整GPU資源，導(dǎo)致GPU剩余資源不足以啟動任務(wù)B，進(jìn)而導(dǎo)致GPU資源的浪費和利用率低下。

2、當(dāng)任務(wù)的數(shù)據(jù)量較小時，CPU的處理性能反而優(yōu)于CPU+GPU的異構(gòu)計算體系，原因在于使用GPU計算時，需要將數(shù)據(jù)先從CPU通過PCI-e通道拷貝到GPU中；計算結(jié)束后，再通過PCI-e通道將結(jié)果數(shù)據(jù)返回給CPU。對于小數(shù)據(jù)量的計算，大部分時間都消耗在CPU與GPU的數(shù)據(jù)傳輸上，導(dǎo)致處理性能降低。

發(fā)明內(nèi)容

針對現(xiàn)有技術(shù)中的至少一個問題，本申請?zhí)峁┮环N計算資源調(diào)度方法及裝置，能夠有效對GPU資源進(jìn)行動態(tài)調(diào)整，保證GPU資源利用率最大化，進(jìn)而提升任務(wù)處理的整體性能。

為了解決上述問題中的至少一個，本申請?zhí)峁┮韵录夹g(shù)方案：

第一方面，本申請?zhí)峁┮环N計算資源調(diào)度方法，包括：

根據(jù)GPU當(dāng)前資源占用信息，確定與目標(biāo)任務(wù)的資源需求對應(yīng)的GPU當(dāng)前可分配資源；

根據(jù)所述GPU當(dāng)前可分配資源對所述目標(biāo)任務(wù)進(jìn)行GPU資源分配。

進(jìn)一步地，所述根據(jù)GPU當(dāng)前資源占用信息，確定與目標(biāo)任務(wù)的資源需求對應(yīng)的GPU當(dāng)前可分配資源，包括：

根據(jù)所述GPU當(dāng)前資源占用信息中的GPU當(dāng)前剩余資源，確定GPU剩余可用資源；

判斷所述GPU剩余可用資源是否滿足所述目標(biāo)任務(wù)的最大資源需求；

若是，則將所述GPU剩余可用資源設(shè)定為所述GPU當(dāng)前可分配資源。

進(jìn)一步地，在所述判斷所述GPU剩余可用資源是否滿足所述目標(biāo)任務(wù)的最大資源需求之后，包括：

若否，則判斷所述GPU當(dāng)前資源占用信息中是否存在比所述目標(biāo)任務(wù)的任務(wù)優(yōu)先級低的當(dāng)前任務(wù)；

若不存在，則判斷所述GPU剩余可用資源是否滿足所述目標(biāo)任務(wù)的最小資源需求；

若不滿足，則判定所述GPU當(dāng)前可分配資源計算失敗，否則將所述GPU剩余可用資源設(shè)定為所述GPU當(dāng)前可分配資源。

進(jìn)一步地，在所述判斷所述GPU當(dāng)前資源占用信息中是否存在當(dāng)前任務(wù)優(yōu)先級比所述目標(biāo)任務(wù)的目標(biāo)任務(wù)優(yōu)先級低的當(dāng)前任務(wù)之后，包括：