[發明專利]一種深度學習業務的任務調度方法及相關裝置

在審

• 申請號: 202111162810.3
• 申請日: 2021-09-30
• 公開（公告）號: CN113590301A
• 公開（公告）日: 2021-11-02
• 發明（設計）人: 王超
• 申請（專利權）人: 蘇州浪潮智能科技有限公司
• 主分類號: G06F9/48
• 分類號: G06F9/48;G06F9/50
• 代理公司: 北京集佳知識產權代理有限公司 11227
• 代理人: 王曉芬

本申請公開了一種深度學習業務的任務調度方法，包括：通過硬件資源拓撲插件對服務器進行資源拓撲關系提取，得到硬件資源拓撲關系；確定獲取到的待調度任務的任務類型；根據所述任務類型對所述硬件資源拓撲關系進行資源組合匹配，得到多個硬件資源節點；基于所述多個硬件資源節點進行任務調度避免出現跨資源的任務調度，提高使用硬件資源的性能。本申請還公開了一種深度學習業務的任務調度裝置、服務器以及計算機可讀存儲介質，具有以上有益效果。

技術領域

本申請涉及計算機技術領域，特別涉及一種深度學習業務的任務調度方法、任務調度裝置、服務器以及計算機可讀存儲介質。

背景技術

隨著信息技術的不斷發展，人工智能行業中廣泛利用GPU（graphics processingunit，圖形處理器）服務器進行深度學習業務負載的部署，使用了如高性能的GPU、CPU（central processing unit，中央處理器）設備進行計算，在固態硬盤或者NVMe（NonVolatile Memory Host Controller Interface Specification，非易失性內存主機控制器接口規范）設備上進行存儲等。

相關技術中，為了提高進行深度學習業務的性能，提供一種NUMA（Non-UniformMemory Access，非一致存儲訪問結構）的機制，該機制通過提供分離的存儲器給各個處理器，避免當多個處理器訪問同一個存儲器產生的性能損失。因此，當前很多深度訓練、推理的任務管理會傾向于使用GPU、CPU綁定技術為不同的任務類型分配GPU和CPU，這樣可以減少由于GPU，CPU頻繁切換導致的性能損失。但是，為了減少碎片化系統往往習慣于分配連續的CPU，導致NUMA策略與系統CPU分配策略出現沖突，出現某些應用必須跨資源訪問遠端內存的錯誤設置，降低服務器的性能。

因此，如何進一步的提高使用硬件資源的性能是本領域技術人員關注的重點問題。

發明內容

本申請的目的是提供一種深度學習業務的任務調度方法、任務調度裝置、服務器以及計算機可讀存儲介質，避免出現跨資源的任務調度，提高使用硬件資源的性能。

為解決上述技術問題，本申請提供一種深度學習業務的任務調度方法，包括：

通過硬件資源拓撲插件對服務器進行資源拓撲關系提取，得到硬件資源拓撲關系；

確定獲取到的待調度任務的任務類型；

根據所述任務類型對所述硬件資源拓撲關系進行資源組合匹配，得到多個硬件資源節點；

基于所述多個硬件資源節點進行任務調度。

可選的，基于所述多個硬件資源節點進行任務調度，包括：

判斷多個numa節點中是否保存有所述待調度任務對應的任務資源；

若是，則基于保存有所述任務資源的numa節點進行任務調度。

可選的，判斷多個numa節點中是否保存有所述待調度任務對應的任務資源，包括：

確定所述待調度任務的任務資源信息；

判斷所述多個numa節點的內存中是否保存有所述任務資源信息對應的任務資源；其中，所述任務資源包括數據集或計算模型。

可選的，還包括：

當所述多個numa節點中未保存所述待調度任務對應的任務資源，將所述任務資源緩存至任一numa節點；

基于所述任一numa節點進行任務調度。

可選的，通過硬件資源拓撲插件對服務器進行資源拓撲關系提取，得到硬件資源拓撲關系，包括：

將numa拓撲插件加載至所述服務器中；

通過所述numa拓撲插件的查詢指令進行查詢，得到GPU-CPU拓撲關系和CPU-Memory拓撲關系；