[發(fā)明專利]一種任務(wù)調(diào)度方法、裝置、設(shè)備及介質(zhì)

在審

• 申請(qǐng)?zhí)枺?/td>: 202010863869.4
• 申請(qǐng)日: 2020-08-25
• 公開（公告）號(hào): CN114116149A
• 公開（公告）日: 2022-03-01
• 發(fā)明（設(shè)計(jì)）人: 黃波;劉華偉
• 申請(qǐng)（專利權(quán)）人: 華為技術(shù)有限公司
• 主分類號(hào): G06F9/48
• 分類號(hào): G06F9/48;G06F9/50
• 代理公司: 深圳市深佳知識(shí)產(chǎn)權(quán)代理事務(wù)所(普通合伙) 44285
• 代理人: 常忠良

本申請(qǐng)?zhí)峁┝艘环N任務(wù)調(diào)度方法，包括：獲取目標(biāo)任務(wù)，該目標(biāo)任務(wù)包括至少一個(gè)異構(gòu)API調(diào)用，然后根據(jù)任務(wù)與處理引擎的關(guān)系，確定與目標(biāo)任務(wù)對(duì)應(yīng)的目標(biāo)處理引擎，然后將目標(biāo)任務(wù)調(diào)度到包括上述目標(biāo)處理引擎的第一從節(jié)點(diǎn)。一方面，任務(wù)與處理引擎的關(guān)系能夠反映任務(wù)與各種處理引擎的親和性高低，因此，主節(jié)點(diǎn)可以根據(jù)任務(wù)與處理引擎的關(guān)系，將目標(biāo)任務(wù)合理地調(diào)度至親和性較高的從節(jié)點(diǎn)執(zhí)行，提高目標(biāo)任務(wù)整體的執(zhí)行效率。并且，該方法可以避免目標(biāo)任務(wù)被調(diào)度至不合適的從節(jié)點(diǎn)，導(dǎo)致從節(jié)點(diǎn)的資源被長(zhǎng)期占用，提高了異構(gòu)系統(tǒng)中資源的利用率。此外，該方法可以減少跨節(jié)點(diǎn)調(diào)度異構(gòu)API調(diào)用的次數(shù)，降低了調(diào)度開銷。

技術(shù)領(lǐng)域

本申請(qǐng)涉及計(jì)算技術(shù)領(lǐng)域，尤其涉及一種任務(wù)調(diào)度方法、裝置、設(shè)備以及計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)。

背景技術(shù)

隨著計(jì)算機(jī)等智能設(shè)備在不同應(yīng)用領(lǐng)域的深入推廣，越來(lái)越多的領(lǐng)域特定架構(gòu)(domain specific architecture，DSA)在不斷涌現(xiàn)。基于這些領(lǐng)域特定架構(gòu)，產(chǎn)生了新的處理引擎。其中，處理引擎是指處理數(shù)據(jù)的處理器。

例如在圖像處理領(lǐng)域，基于領(lǐng)域特定架構(gòu)的處理引擎包括圖形處理器(graphicalprocessing unit，GPU)、圖像處理器(image processor，IP)等。在數(shù)字信號(hào)處理領(lǐng)域，基于領(lǐng)域特定架構(gòu)的處理引擎包括數(shù)字信號(hào)處理器(digital signal processor，DSP)。在人工智能領(lǐng)域，基于領(lǐng)域特定架構(gòu)的處理引擎包括神經(jīng)網(wǎng)絡(luò)處理器(neural-networkprocessing unit，NPU)等。

其中，包括兩種或兩種以上的處理引擎的數(shù)據(jù)處理系統(tǒng)稱之為異構(gòu)系統(tǒng)。針對(duì)該異構(gòu)系統(tǒng)開發(fā)的應(yīng)用為異構(gòu)應(yīng)用。異構(gòu)應(yīng)用通常包括至少一個(gè)異構(gòu)應(yīng)用程序編程接口(application programming interface，API)。異構(gòu)API具體是接口統(tǒng)一，但在不同處理引擎上有不同的優(yōu)化實(shí)現(xiàn)的API。

目前，異構(gòu)系統(tǒng)在執(zhí)行異構(gòu)應(yīng)用的任務(wù)時(shí)效率較低。業(yè)界亟需提供一種任務(wù)調(diào)度方法，以提高異構(gòu)應(yīng)用的任務(wù)的執(zhí)行效率。

發(fā)明內(nèi)容

本申請(qǐng)?zhí)峁┝艘环N任務(wù)調(diào)度方法，該方法根據(jù)任務(wù)和處理引擎的關(guān)系，確定與待執(zhí)行的目標(biāo)任務(wù)對(duì)應(yīng)的目標(biāo)處理引擎，將目標(biāo)任務(wù)調(diào)度到包括上述目標(biāo)處理引擎的第一從節(jié)點(diǎn)，一方面可以提供任務(wù)整體的執(zhí)行效率，另一方面可以減少跨節(jié)點(diǎn)調(diào)度的次數(shù)，降低調(diào)度開銷。本申請(qǐng)還提供了上述方法對(duì)應(yīng)的裝置、設(shè)備、計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)以及計(jì)算機(jī)程序產(chǎn)品。

第一方面，本申請(qǐng)?zhí)峁┝艘环N任務(wù)調(diào)度方法。具體地，異構(gòu)系統(tǒng)的主節(jié)點(diǎn)獲取目標(biāo)任務(wù)，該目標(biāo)任務(wù)包括至少一個(gè)異構(gòu)應(yīng)用程序編程接口(application programminginterface，API)調(diào)用，然后主節(jié)點(diǎn)可以根據(jù)任務(wù)與處理引擎的關(guān)系，確定與目標(biāo)任務(wù)對(duì)應(yīng)的目標(biāo)處理引擎，將目標(biāo)任務(wù)調(diào)度到包括上述目標(biāo)處理引擎的第一從節(jié)點(diǎn)。

一方面，任務(wù)與處理引擎的關(guān)系能夠反映任務(wù)與各種處理引擎的親和性高低，因此，主節(jié)點(diǎn)可以根據(jù)任務(wù)與處理引擎的關(guān)系，將目標(biāo)任務(wù)合理地調(diào)度至親和性較高的從節(jié)點(diǎn)執(zhí)行，提高目標(biāo)任務(wù)整體的執(zhí)行效率。并且，該方法可以避免異構(gòu)應(yīng)用的任務(wù)被調(diào)度至不合適的從節(jié)點(diǎn)，導(dǎo)致從節(jié)點(diǎn)的資源被長(zhǎng)期占用，提高了異構(gòu)系統(tǒng)中資源的利用率。此外，該方法可以減少跨節(jié)點(diǎn)調(diào)度異構(gòu)API調(diào)用的次數(shù)，降低了調(diào)度開銷。

在一些可能的實(shí)現(xiàn)方式中，主節(jié)點(diǎn)可以從異構(gòu)系統(tǒng)中確定多個(gè)第二從節(jié)點(diǎn)，該第二從節(jié)點(diǎn)是指包括目標(biāo)處理引擎的從節(jié)點(diǎn)，然后主節(jié)點(diǎn)可以根據(jù)負(fù)載均衡策略，從多個(gè)第二從節(jié)點(diǎn)中確定第一從節(jié)點(diǎn)。例如，主節(jié)點(diǎn)可以從多個(gè)第二從節(jié)點(diǎn)中確定負(fù)載率小于預(yù)設(shè)負(fù)載率的第二從節(jié)點(diǎn)為第一從節(jié)點(diǎn)。如此，可以避免任務(wù)在某一從節(jié)點(diǎn)堆積，導(dǎo)致其他從節(jié)點(diǎn)的資源被閑置，一方面提高任務(wù)的執(zhí)行效率，另一方面提高資源的利用率。