[發明專利]計算任務的分配方法、裝置、計算機設備和存儲介質

在審

• 申請號: 202210426012.5
• 申請日: 2022-04-22
• 公開（公告）號: CN114706687A
• 公開（公告）日: 2022-07-05
• 發明（設計）人: 李肯立;翁萬東;肖正;唐卓;肖國慶;段明星;周旭;廖清
• 申請（專利權）人: 湖南大學
• 主分類號: G06F9/50
• 分類號: G06F9/50;G06F16/901
• 代理公司: 華進聯合專利商標代理有限公司 44224
• 代理人: 張思佳

本申請涉及一種計算任務的分配方法、裝置、計算機設備和存儲介質。方法包括：獲取計算任務對應的第一數量個計算圖以及各計算子任務之間的流轉關系；計算每個邊界計算子任務的關鍵關系增益，關鍵關系增益包括第一增益和第二增益；根據各邊界計算子任務的第一增益和第二增益調整邊界計算子任務至其他計算圖，獲得新的第一數量個計算圖；若新的第一數量個計算圖存在新的邊界計算子任務，返回確定每個邊界計算子任務的關鍵關系增益的步驟，直至獲得的新的第一數量個計算圖不存在新的邊界計算子任務，并將每次獲得第一數量個計算圖之間的關鍵關系數量最小的第一數量個計算圖，分配至對應的計算設備。采用本方法能夠滿足實時應用要求，減少通信延時。

技術領域

本申請涉及計算機技術領域，特別是涉及一種計算任務的分配方法、裝置、計算機設備和存儲介質。

背景技術

目前，神經網絡在許多領域內表現出了非凡的性能，例如圖像識別、自然語言處理、推薦系統等。與其相隨的問題是DNN模型的結構越來越復雜以及訓練的計算要求越來越高。為了解決復雜DNN模型的訓練問題。通常將DNN模型中的多個計算任務劃分至多個設備上，由多個設備分別計算自己分到的計算任務，從而降低了計算要求，其中DNN模型中的多個計算任務能夠構成一有向圖(按照每個計算任務的計算順序構成有向圖)。

現有技術中，對多個計算任務進行劃分方式主要是多級劃分算法，該多級劃分算法主要是根據多個計算任務之間流轉關系的關鍵程度進行劃分，即盡可能將存在關鍵的流轉關系多個計算任務劃分給同一個設備，存在不關鍵的流轉關系多個計算任務的劃分給不同的設備。

然而，目前的多級劃分算法方法，因同時要考慮多個設備的負載均衡，無可避免的會將存在關鍵的流轉關系的多個計算任務的劃分給不同的設備。目前的多級劃分算法方法并未考慮將關鍵關系劃分給不同設備，導致多個設備之間通信延時，從而導致不能滿足實時應用的要求。

發明內容

基于此，有必要針對上述技術問題，提供一種能夠滿足實時應用要求的計算任務的分配方法、裝置、計算機設備和存儲介質。

第一方面，本申請提供了一種計算任務的分配方法。所述方法包括：

獲取所述計算任務對應的第一數量個計算圖以及所述計算任務中各計算子任務之間的流轉關系，每個所述計算圖包括至少一計算子任務；

計算每個邊界計算子任務的關鍵關系增益，所述關鍵關系增益包括第一增益和第二增益，其中，所述第一增益根據所述邊界計算子任務所屬計算圖中與所述邊界計算子任務存在的關鍵關系獲得，所述第二增益根據所述邊界計算子任務分別與其他計算圖之間的關鍵關系獲得；

根據各邊界計算子任務的所述第一增益和第二增益調整所述邊界計算子任務至其他計算圖，獲得新的第一數量個計算圖；

若新的第一數量個計算圖存在新的邊界計算子任務，返回確定每個邊界計算子任務的關鍵關系增益的步驟，直至獲得的新的第一數量個計算圖不存在新的邊界計算子任務，并將每次獲得第一數量個計算圖之間的關鍵關系數量最小的第一數量個計算圖，分配至對應的第一數量個計算設備。

在其中一個實施例中，所述計算每個邊界計算子任務的關鍵關系增益，所述關鍵關系增益包括第一增益和第二增益，包括：

統計所述邊界計算子任務所屬計算圖中與所述邊界計算子任務存在關鍵關系的計算子任務的數量，獲得所述第一增益；并統計所述邊界計算子任務分別與其他計算圖之間存在關鍵關系的計算子任務的數量，獲得所述邊界計算子任務分別相對其他計算圖的第二增益。

第二方面，本申請還提供了一種計算任務的分配裝置。所述裝置包括：

第一獲取模塊，用于獲取所述計算任務對應的第一數量個計算圖以及所述計算任務中各計算子任務之間的流轉關系，每個所述計算圖包括至少一計算子任務；