[發明專利]任務調度方法、裝置、設備和計算機存儲介質

有效

• 申請號: 202110190139.7
• 申請日: 2021-02-18
• 公開（公告）號: CN112948079B
• 公開（公告）日: 2022-06-28
• 發明（設計）人: 陳秋良;劉紅雨;藍翔
• 申請（專利權）人: 北京百度網訊科技有限公司
• 主分類號: G06F9/48
• 分類號: G06F9/48;G06F9/50
• 代理公司: 北京鴻德海業知識產權代理有限公司 11412
• 代理人: 田宏賓

本公開公開了任務調度方法、裝置、設備和計算機存儲介質，涉及人工智能技術領域中的深度學習技術。具體實現方案為：依據預先分析得到的目標任務中各算子任務的硬件執行代價，對可并發執行的算子任務進行優先級排序；按照優先級排序結果，依次對所述可并發執行的算子任務進行調度；其中，所述調度包括：依據當前待調度的算子任務需要的新增硬件資源量與當前系統可用硬件資源量，確定是否執行當前待調度的算子任務。本公開實現了任務的合理調度，以緩解存儲資源不足的問題。

技術領域

本公開涉及計算機應用技術領域，尤其涉及人工智能技術領域中的深度學習技術。

背景技術

深度學習框架是人工智能技術發展的基礎技術之一。在深度學習框架中，深度學習模型的訓練和應用都需要大量的任務來完成。隨著計算量的增加，逐步出現了并發執行的處理方式。即依據深度學習模型中各算子之間的依賴關系，盡可能地并發調度算子任務。

然而，通常硬件中往往存在一些有限的存儲資源，例如顯存資源，一旦算子任務調度不合理，就會面臨存儲資源不足的問題。

發明內容

本公開提供了一種任務調度方法、裝置、設備和計算機存儲介質，以合理進行任務調度，緩解存儲資源不足的問題。

根據本公開的第一方面，提供了一種任務調度方法，包括：

依據預先分析得到的目標任務中各算子任務的硬件執行代價，對可并發執行的算子任務進行優先級排序；

按照優先級排序結果，依次對所述可并發執行的算子任務進行調度；

其中，所述調度包括：依據當前待調度的算子任務需要的新增硬件資源量與當前系統可用硬件資源量，確定是否執行當前待調度的算子任務。

根據本公開的第二方面，提供了一種任務調度裝置，包括：

排序單元，用于依據預先分析得到的目標任務中各算子任務的硬件執行代價，對可并發執行的算子任務進行優先級排序；

調度單元，用于按照優先級排序結果，依次對所述可并發執行的算子任務進行調度；其中，所述調度包括：依據當前待調度的算子任務需要的新增硬件資源量與當前系統可用硬件資源量，確定是否執行當前待調度的算子任務。

根據本公開的第三方面，提供了一種電子設備，包括：

至少一個處理器；以及

與所述至少一個處理器通信連接的存儲器；其中，

所述存儲器存儲有可被所述至少一個處理器執行的指令，所述指令被所述至少一個處理器執行，以使所述至少一個處理器能夠執行上述的方法。

根據本公開的第四方面，提供了一種存儲有計算機指令的非瞬時計算機可讀存儲介質，其中，所述計算機指令用于使所述計算機執行如上所述的方法。

根據本公開的第五方面，提供了一種計算機程序產品，包括計算機程序，所述計算機程序在被處理器執行時實現如上所述的方法。

由以上技術方案可以看出，在本公開中，依據硬件執行代價依次對算子進行調度，并且在對各算子任務進行具體調度時，會依據當前待調度的算子任務需要的新增硬件資源量與當前系統可用硬件資源量，確定是否執行當前待調度的算子任務，避免盲目并行執行算子任務而導致因資源不足引起算子任務不斷重試，最終超時退出。因此本公開能夠更加合理地進行任務調度，緩解了存儲資源不足的問題。

應當理解，本部分所描述的內容并非旨在標識本公開的實施例的關鍵或重要特征，也不用于限制本公開的范圍。本公開的其它特征將通過以下的說明書而變得容易理解。

附圖說明

附圖用于更好地理解本方案，不構成對本公開的限定。其中：

圖1為本公開實施例一提供的主要方法流程圖；