[發明專利]一種異構感知的集群調度方法及裝置

有效

• 申請號: 202110432482.8
• 申請日: 2021-04-21
• 公開（公告）號: CN113127173B
• 公開（公告）日: 2021-09-24
• 發明（設計）人: 朱海洋;陳為;周俊;嚴凡;錢中昊;葉洲
• 申請（專利權）人: 浙江大學;物產中大集團股份有限公司
• 主分類號: G06F9/48
• 分類號: G06F9/48;G06F9/50
• 代理公司: 北京億騰知識產權代理事務所(普通合伙) 11309
• 代理人: 陳婧玥

1.一種異構感知的集群調度方法，異構集群包括多種類型的計算芯片，所述方法包括：

獲取用戶提交的第一計算任務，歸入當前待處理的若干計算任務；

確定所述第一計算任務的吞吐量估計值，并且，確定所述第一計算任務所對應的多項子任務；

基于所述吞吐量估計值，確定各項子任務所對應的若干備選執行方式，其中各個備選執行方式包括計算芯片的類型和需求數量；

確定所述第一計算任務對應的多個第一備選執行序列，其中各個第一備選執行序列包括所述多項子任務中各項子任務的備選執行方式；

基于所述若干計算任務中各計算任務所對應的多個備選執行序列，所述異構集群中的計算芯片，以及針對所述異構集群設定的調度策略，確定目標計算任務及其對應的目標執行序列。

2.根據權利要求1所述的方法，其中，確定所述第一計算任務的吞吐量估計值，包括：

基于所述第一計算任務的類型和數據量，查詢預定時間段內完成的相似歷史任務；

基于所述相似歷史任務的吞吐量真實值，確定所述吞吐量估計值。

3.根據權利要求1所述的方法，其中，確定所述第一計算任務的吞吐量估計值，包括：

將所述第一計算任務的任務特征輸入預先訓練的預測模型中，得到吞吐量預測值，作為所述吞吐量估計值；所述任務特征包括以下中的至少一種：類型、數據量、計算資源要求。

4.根據權利要求2或3所述的方法，其中，所述第一計算任務的類型是以下中的一種：訓練樣本預處理任務、機器學習任務、預測任務。

5.根據權利要求1所述的方法，其中，確定所述第一計算任務所對應的多項子任務，包括：

生成所述第一計算任務的計算流圖，其中包括多個計算節點；

將所述多個計算節點中的多項計算內容，作為所述多項子任務。

6.根據權利要求1所述的方法，其中，基于所述吞吐量估計值，確定各項子任務所對應的若干備選執行方式，包括：

針對各項子任務，基于子任務與計算芯片類型之間的映射關系，確定該項子任務所對應的若干計算芯片類型；

基于所述吞吐量估計值，確定所述若干計算芯片類型中各個計算芯片類型所對應的需求數量。

7.根據權利要求6所述的方法，其中，針對各項子任務，基于子任務與計算芯片類型之間的映射關系，確定該項子任務所對應的若干計算芯片類型，包括：

針對各項子任務，基于子任務與操作密集類型的映射關系，確定該項子任務所對應的操作密集類型，該操作密集類型為以下中的一種：輸入輸出IO密集型、通信密集型、串行計算密集型、并行計算密集型和特定計算密集型；

基于計算密集類型與計算芯片類型之間的映射關系，確定該項子任務所對應的若干計算芯片類型。

8.根據權利要求1所述的方法，其中，確定目標計算任務及其對應的目標執行序列，包括：

響應于已有任務的結束，確定目標計算任務及其對應的目標執行序列。

9.根據權利要求1所述的方法，其中，所述調度策略涉及以下中的至少一種：平均任務完成時間最小、任務等待時長最小、任務公平性優先。

10.一種異構感知的集群調度裝置，異構集群包括多種類型的計算芯片，所述裝置包括：

任務獲取單元，配置為獲取用戶提交的第一計算任務，歸入當前待處理的若干計算任務；

吞吐量估算單元，配置為確定所述第一計算任務的吞吐量估計值；

子任務確定單元，配置為確定所述第一計算任務所對應的多項子任務；

備選方式確定單元，配置為基于所述吞吐量估計值，確定各項子任務所對應的若干備選執行方式，其中各個備選執行方式包括計算芯片的類型和需求數量；

備選序列確定單元，配置為確定所述第一計算任務對應的多個第一備選執行序列，其中各個第一備選執行序列包括所述多項子任務中各項子任務的備選執行方式；

目標調度確定單元，配置為基于所述若干計算任務中各計算任務所對應的多個備選執行序列，所述異構集群中的計算芯片，以及針對所述異構集群設定的調度策略，確定目標計算任務及其對應的目標執行序列。