[發(fā)明專利]任務(wù)調(diào)度方法及裝置、存儲(chǔ)介質(zhì)

有效

• 申請(qǐng)?zhí)枺?/td>: 201910200097.3
• 申請(qǐng)日: 2019-03-15
• 公開(kāi)（公告）號(hào): CN111694675B
• 公開(kāi)（公告）日: 2022-03-08
• 發(fā)明（設(shè)計(jì)）人: 王迎瑞;李哲龍
• 申請(qǐng)（專利權(quán)）人: 上海商湯智能科技有限公司
• 主分類號(hào): G06F9/54
• 分類號(hào): G06F9/54;G06N3/04;G06N3/08
• 代理公司: 北京博思佳知識(shí)產(chǎn)權(quán)代理有限公司 11415
• 代理人: 林祥

本公開(kāi)提供了一種任務(wù)調(diào)度方法及裝置，其中，該任務(wù)調(diào)度方法包括：根據(jù)操作任務(wù)隊(duì)列中多個(gè)操作任務(wù)所對(duì)應(yīng)的操作數(shù)，確定所述多個(gè)操作任務(wù)之間的依賴關(guān)系；基于所述多個(gè)操作任務(wù)之間的依賴關(guān)系，對(duì)所述操作任務(wù)隊(duì)列中的所述多個(gè)操作任務(wù)進(jìn)行調(diào)度。本公開(kāi)可以最小化操作任務(wù)之間的依賴，實(shí)現(xiàn)了對(duì)操作任務(wù)的高效調(diào)度。

技術(shù)領(lǐng)域

本公開(kāi)涉及深度學(xué)習(xí)領(lǐng)域，尤其涉及任務(wù)調(diào)度方法及裝置、存儲(chǔ)介質(zhì)。

背景技術(shù)

深度學(xué)習(xí)模型的訓(xùn)練是深度學(xué)習(xí)中的關(guān)鍵環(huán)節(jié)。訓(xùn)練過(guò)程是非常復(fù)雜的，使用到的硬件資源也非常多樣。

目前各開(kāi)源框架都有一套自己的調(diào)度方法來(lái)管理深度學(xué)習(xí)模型的訓(xùn)練過(guò)程，但是大多通過(guò)有向無(wú)環(huán)圖描述操作任務(wù)之間的依賴關(guān)系，以使訓(xùn)練過(guò)程按正確流程進(jìn)行，導(dǎo)致訓(xùn)練平臺(tái)的任務(wù)調(diào)度效率不高。

發(fā)明內(nèi)容

本公開(kāi)提供了一種任務(wù)調(diào)度方法和裝置以及計(jì)算機(jī)存儲(chǔ)介質(zhì)。

根據(jù)本公開(kāi)實(shí)施例的第一方面，提供一種任務(wù)調(diào)度方法，所述方法包括：

根據(jù)操作任務(wù)隊(duì)列中多個(gè)操作任務(wù)所對(duì)應(yīng)的操作數(shù)，確定所述多個(gè)操作任務(wù)之間的依賴關(guān)系；

基于所述多個(gè)操作任務(wù)之間的依賴關(guān)系，對(duì)所述操作任務(wù)隊(duì)列中的所述多個(gè)操作任務(wù)進(jìn)行調(diào)度。

可選地，所述操作任務(wù)對(duì)應(yīng)的操作數(shù)包括讀操作數(shù)和/或?qū)懖僮鲾?shù)。

可選地，所述根據(jù)操作任務(wù)隊(duì)列中多個(gè)操作任務(wù)所對(duì)應(yīng)的操作數(shù)，確定所述多個(gè)操作任務(wù)之間的依賴關(guān)系，包括：

如果第二操作任務(wù)包含對(duì)第一操作任務(wù)的寫操作數(shù)進(jìn)行的讀操作、或所述第二操作任務(wù)包含對(duì)所述第一操作任務(wù)的操作數(shù)進(jìn)行的寫操作，確定所述第二操作任務(wù)依賴于所述第一操作任務(wù)；

其中，所述第一操作任務(wù)和所述第二操作任務(wù)是所述操作任務(wù)隊(duì)列中的不同操作任務(wù)。

可選地，所述根據(jù)操作任務(wù)隊(duì)列中多個(gè)操作任務(wù)所對(duì)應(yīng)的操作數(shù)，確定所述多個(gè)操作任務(wù)之間的依賴關(guān)系，還包括：

如果所述第二操作任務(wù)包含對(duì)所述第一操作任務(wù)的讀操作數(shù)進(jìn)行的讀操作，確定所述第一操作任務(wù)與所述第二操作任務(wù)之間不存在依賴。

可選地，所述基于所述多個(gè)操作任務(wù)之間的依賴關(guān)系，對(duì)所述操作任務(wù)隊(duì)列中的所述多個(gè)操作任務(wù)進(jìn)行調(diào)度，包括：

基于所述多個(gè)操作任務(wù)之間的依賴關(guān)系，確定所述多個(gè)操作任務(wù)的調(diào)度順序；

為所述操作任務(wù)隊(duì)列中的當(dāng)前操作任務(wù)分配內(nèi)存；

在所述分配內(nèi)存完成之后，將所述當(dāng)前操作任務(wù)調(diào)度到所述當(dāng)前操作任務(wù)對(duì)應(yīng)的上下文上執(zhí)行，并按照所述調(diào)度順序進(jìn)行所述當(dāng)前操作任務(wù)的下一個(gè)操作任務(wù)的內(nèi)存分配。

可選地，所述基于所述多個(gè)操作任務(wù)之間的依賴關(guān)系，確定所述多個(gè)操作任務(wù)的調(diào)度順序，包括：

如果所述多個(gè)操作任務(wù)中的第一操作任務(wù)與所述多個(gè)操作任務(wù)中的第二操作任務(wù)之間不存在依賴，則確定并行調(diào)用所述第一操作任務(wù)與所述第二操作任務(wù)；和/或

如果所述第二操作任務(wù)依賴于所述第一操作任務(wù)，則確定在所述第一操作任務(wù)之后調(diào)度所述第二操作任務(wù)。

可選地，所述根據(jù)操作任務(wù)隊(duì)列中多個(gè)操作任務(wù)所對(duì)應(yīng)的操作數(shù)，確定所述多個(gè)操作任務(wù)之間是否存在依賴，包括：

對(duì)所述多個(gè)操作任務(wù)中包括的M個(gè)通信操作任務(wù)進(jìn)行融合處理，得到至少一個(gè)合并通信操作任務(wù)，每個(gè)合并通信操作任務(wù)包含所述M個(gè)通信操作任務(wù)中的至少一個(gè)通信操作任務(wù)，其中，M為大于或等于1的整數(shù)；

根據(jù)所述至少一個(gè)合并通信操作任務(wù)對(duì)應(yīng)的操作數(shù)和所述多個(gè)操作任務(wù)中至少一個(gè)非通信操作任務(wù)對(duì)應(yīng)的操作數(shù)，確定所述多個(gè)操作任務(wù)之間的依賴關(guān)系。