[發(fā)明專利]一種任務(wù)調(diào)度方法、裝置以及相關(guān)設(shè)備

在審

• 申請?zhí)枺?/td>: 202010863887.2
• 申請日: 2020-08-25
• 公開（公告）號(hào): CN114116150A
• 公開（公告）日: 2022-03-01
• 發(fā)明（設(shè)計(jì)）人: 黃波;劉華偉
• 申請（專利權(quán)）人: 華為技術(shù)有限公司
• 主分類號(hào): G06F9/48
• 分類號(hào): G06F9/48;G06F9/50
• 代理公司: 深圳市深佳知識(shí)產(chǎn)權(quán)代理事務(wù)所(普通合伙) 44285
• 代理人: 常忠良

本申請?zhí)峁┝艘环N任務(wù)調(diào)度方法，應(yīng)用于包括多節(jié)點(diǎn)的異構(gòu)系統(tǒng)，待執(zhí)行的任務(wù)包括至少一個(gè)異構(gòu)API調(diào)用，該方法包括：根據(jù)異構(gòu)API調(diào)用的參數(shù)規(guī)模值，確定異構(gòu)API調(diào)用的調(diào)度參考信息。該調(diào)度參考信息用于描述異構(gòu)系統(tǒng)中多種處理引擎的執(zhí)行效率。然后，根據(jù)調(diào)度參考信息，從異構(gòu)系統(tǒng)可用的處理引擎中確定執(zhí)行效率滿足預(yù)設(shè)條件的目標(biāo)處理引擎，將異構(gòu)API調(diào)用調(diào)度到對應(yīng)的目標(biāo)處理引擎。該方法支持根據(jù)異構(gòu)API調(diào)用的參數(shù)規(guī)模值選擇合適的處理引擎，將異構(gòu)API調(diào)用調(diào)度到上述合適的處理引擎上執(zhí)行，提高了異構(gòu)API調(diào)用的執(zhí)行效率，進(jìn)而提高了任務(wù)的執(zhí)行效率。

技術(shù)領(lǐng)域

本申請涉及計(jì)算技術(shù)領(lǐng)域，尤其涉及一種任務(wù)調(diào)度方法、裝置、設(shè)備以及計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)。

背景技術(shù)

隨著計(jì)算機(jī)等智能設(shè)備在不同應(yīng)用領(lǐng)域的深入推廣，越來越多的領(lǐng)域特定架構(gòu)(domain specific architecture，DSA)在不斷涌現(xiàn)。基于這些領(lǐng)域特定架構(gòu)，產(chǎn)生了新的處理引擎。其中，處理引擎是指處理數(shù)據(jù)的處理器。

例如在圖像處理領(lǐng)域，基于領(lǐng)域特定架構(gòu)的處理引擎包括圖形處理器(graphicalprocessing unit，GPU)、圖像處理器(image processor，IP)等。在數(shù)字信號(hào)處理領(lǐng)域，基于領(lǐng)域特定架構(gòu)的處理引擎包括數(shù)字信號(hào)處理器(digital signal processor，DSP)。在人工智能領(lǐng)域，基于領(lǐng)域特定架構(gòu)的處理引擎包括神經(jīng)網(wǎng)絡(luò)處理器(neural-networkprocessing unit，NPU)等。

其中，包括兩種或兩種以上的處理引擎的數(shù)據(jù)處理系統(tǒng)稱之為異構(gòu)系統(tǒng)。針對該異構(gòu)系統(tǒng)開發(fā)的應(yīng)用為異構(gòu)應(yīng)用。異構(gòu)應(yīng)用通常包括至少一個(gè)異構(gòu)應(yīng)用程序編程接口(application programming interface，API)調(diào)用。其中，異構(gòu)API具體是接口統(tǒng)一，但在不同處理引擎上有不同的優(yōu)化實(shí)現(xiàn)的API。

目前，異構(gòu)系統(tǒng)在執(zhí)行包括異構(gòu)API調(diào)用的任務(wù)時(shí)的效率較低。業(yè)界亟需提供一種高效的任務(wù)調(diào)度方法。

發(fā)明內(nèi)容

本申請?zhí)峁┝艘环N任務(wù)調(diào)度方法，該方法支持根據(jù)任務(wù)中異構(gòu)API調(diào)用的參數(shù)規(guī)模值，選擇合適的處理引擎，將異構(gòu)API調(diào)用調(diào)度到合適的處理引擎，從而提高異構(gòu)API調(diào)用的執(zhí)行效率，進(jìn)而提高異構(gòu)應(yīng)用的執(zhí)行效率。本申請還提供了上述方法對應(yīng)的裝置、設(shè)備、計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)以及計(jì)算機(jī)程序產(chǎn)品。

第一方面，本申請?zhí)峁┝艘环N任務(wù)調(diào)度方法。該方法應(yīng)用于包括多節(jié)點(diǎn)的異構(gòu)系統(tǒng)。其中，異構(gòu)系統(tǒng)是指包括多種處理引擎的數(shù)據(jù)處理系統(tǒng)。處理引擎是能夠進(jìn)行數(shù)據(jù)處理操作的單元。處理引擎包括中央處理器(central processing unit，CPU)以及基于基于領(lǐng)域特定架構(gòu)(domain specific architecture，DSA)的處理單元。其中，基于DSA架構(gòu)的處理單元包括圖形處理器(graphical processing unit，GPU)、圖像處理器(image processor，IP)、數(shù)字信號(hào)處理器(digital signal processor，DSP)、神經(jīng)網(wǎng)絡(luò)處理器(neural-network processing unit，NPU)和現(xiàn)場可編程邏輯門陣列(field programmable gatearray，F(xiàn)PGA)等等。

針對異構(gòu)系統(tǒng)開發(fā)的應(yīng)用為異構(gòu)應(yīng)用。異構(gòu)應(yīng)用通常包括至少一個(gè)異構(gòu)應(yīng)用程序編程接口(application programming interface，API)調(diào)用。其中，異構(gòu)API具體是接口統(tǒng)一，但在不同處理引擎上有不同的優(yōu)化實(shí)現(xiàn)的API。提交到異構(gòu)系統(tǒng)上的任務(wù)包括至少一個(gè)異構(gòu)API調(diào)用。

異構(gòu)系統(tǒng)在執(zhí)行異構(gòu)API調(diào)用時(shí)，根據(jù)該異構(gòu)API調(diào)用的參數(shù)規(guī)模值，確定異構(gòu)API調(diào)用的調(diào)度參考信息。其中，調(diào)度參考信息用于描述異構(gòu)系統(tǒng)中多種處理引擎的執(zhí)行效率。異構(gòu)系統(tǒng)根據(jù)調(diào)度參考信息，從異構(gòu)系統(tǒng)可用的處理引擎中確定執(zhí)行效率滿足預(yù)設(shè)條件的目標(biāo)處理引擎，將異構(gòu)API調(diào)用調(diào)度到對應(yīng)的目標(biāo)處理引擎。