[發明專利]調度方案生成方法及裝置

有效

• 申請號: 201910057758.1
• 申請日: 2019-01-22
• 公開（公告）號: CN109871270B
• 公開（公告）日: 2021-04-02
• 發明（設計）人: 王毅;吳尚宇;陳家賢;雷潔彥;毛睿;廖好
• 申請（專利權）人: 深圳大學
• 主分類號: G06F9/48
• 分類號: G06F9/48;G06F9/50
• 代理公司: 北京三聚陽光知識產權代理有限公司 11250
• 代理人: 安志嬌

本發明公開了一種調度方案生成方法及裝置，應用于數據處理技術領域。該方法包括：終端獲取用戶輸入的初始操作信息。根據初始操作信息建立有向無環圖模型，有向無環圖模型的多個任務節點與多個初始操作一一對應，各任務節點之間的數據依賴關系與各初始操作之間的傳輸數據的數據依賴關系相同，各任務節點的執行時間與對應的初始操作的執行時間相等。將有向無環圖模型重復執行不同次數作為不同的周期，并將各周期內的多個任務節點根據執行時間的長短進行排序，依次分配給終端的多個處理單元中完成時間最小的處理單元，得到對應各周期的調度方案，并從多個調度方案中確定初始調度方案。該方法可提高利用率和計算效率。

技術領域

本發明涉及數據處理技術領域，尤其涉及調度方案生成方法及裝置。

背景技術

隨著我國計算機技術的快速發展，為了提高計算效率，利用并行處理單元進行數據處理的方法已被廣泛應用開來，如多核處理器。其中，深度學習的推理過程具有高度的并行性，不同樣本之間的計算過程沒有相互依賴，在利用并行處理單元的基礎上，通過合理的調度可以起到極大地加速其深度學習的推理過程。

在目前的調度方案生成方法中，通常將多個不同樣本的相同任務安排在該任務與其他任務的傳輸數據的等待時間內，以提高并行處理單元的利用率和計算效率。但是，若該任務的執行時間遠遠大于其他的任務的執行時間，達到穩定狀態前的前序時間較長，這就會存在利用率和計算效率較低的問題。

發明內容

本發明實施例的主要目的在于提供調度方案生成方法及裝置，可提高利用率和計算效率。

本發明實施例第一方面提供了一種調度方案生成方法，所述方法包括：終端獲取用戶輸入的初始操作信息，所述初始操作信息包括多個初始操作、各初始操作之間的傳輸數據和各初始操作的執行時間；根據所述初始操作信息建立有向無環圖模型，所述有向無環圖模型的多個任務節點與多個所述初始操作一一對應，各所述任務節點之間的數據依賴關系與各所述初始操作之間的傳輸數據的數據依賴關系相同，各所述任務節點的執行時間與對應的初始操作的執行時間相等；將所述有向無環圖模型重復執行不同次數作為不同的周期，并將各所述周期內的多個任務節點根據執行時間的長短進行排序，依次分配給所述終端的多個處理單元中完成時間最小的處理單元，得到對應各所述周期的調度方案，并從多個所述調度方案中確定初始調度方案，所述初始調度方案包括所述初始調度方案內的各任務節點與分配的處理單元的分配關系以及所述初始調度方案內的各任務節點的開始處理時間。

本發明實施例第二方面提供了一種調度方案生成裝置，所述裝置包括：獲取單元，用于終端獲取用戶輸入的初始操作信息，所述初始操作信息包括多個初始操作、各初始操作之間的傳輸數據和各初始操作的執行時間；建立單元，用于根據所述初始操作信息建立有向無環圖模型，所述有向無環圖模型的多個任務節點與多個所述初始操作一一對應，各所述任務節點之間的數據依賴關系與各所述初始操作之間的傳輸數據的數據依賴關系相同，各所述任務節點的執行時間與對應的初始操作的執行時間相等；處理單元，用于將所述有向無環圖模型重復執行不同次數作為不同的周期，并將各所述周期內的多個任務節點根據執行時間的長短進行排序，依次分配給所述終端的多個處理單元中完成時間最小的處理單元，得到對應各所述周期的調度方案，并從多個所述調度方案中確定初始調度方案，所述初始調度方案包括所述初始調度方案內的各任務節點與分配的處理單元的分配關系以及所述初始調度方案內的各任務節點的開始處理時間。

從上述實施例可知，通過將所述有向無環圖模型重復執行不同次數作為不同的周期，將各周期內的任務節點按照執行時間的長短依次分配給完成時間最小的處理單元，以將執行時間較長的任務節點和執行時間較短的任務節點分開處理，極大地提高了利用率和計算效率。

附圖說明

圖1是本發明提供的第一實施例中的調度方案生成方法的實現流程示意圖；

圖2是本發明提供的第二實施例中的調度方案生成方法的實現流程示意圖；

圖3是本發明提供的第二實施例中的步驟203的細化步驟的流程示意圖；