[發明專利]一種資源調度方法、裝置及電子設備

在審

• 申請號: 201910000981.2
• 申請日: 2019-01-02
• 公開（公告）號: CN111400022A
• 公開（公告）日: 2020-07-10
• 發明（設計）人: 叢鵬宇;王斌;趙琪琪;王平輝
• 申請（專利權）人: 中國移動通信有限公司研究院;中國移動通信集團有限公司
• 主分類號: G06F9/50
• 分類號: G06F9/50
• 代理公司: 北京銀龍知識產權代理有限公司 11243
• 代理人: 劉偉;陳麗寧

本發明提供一種資源調度方法、裝置及電子設備，其中，所述資源調度方法包括：獲取用戶輸入的任務；確定所述任務的優先級；將所述任務分配至與所述任務的優先級對應的任務隊列中；按照所有任務隊列的優先級高低，依次為每個任務隊列中的任務調度GPU資源。本發明的實施例，可以根據任務的優先級動態地為任務調度GPU資源，滿足任務執行需求，提高GPU資源的利用率。

技術領域

本發明涉及通信技術領域，尤其涉及一種資源調度方法、裝置及電子設備。

背景技術

隨著大規模標記數據的積累、神經網絡算法的成熟以及高性能通用GPU(GraphicsProcessing Unit，圖形處理器)的推廣，深度學習已經逐漸成為計算機領域以及大數據領域的研究重點。在深度學習平臺上，深度學習模型的訓練過程往往需要大量的計算資源，深度學習模型的數據量和參數規模巨大，需要使用GPU進行相關研究。

目前，在深度學習過程中，常用的GPU資源調度方法為Kubernetes調度。該Kubernetes調度提供了容器編排功能，其中調度模塊的作用主要是根據特定的調度算法將任務調度到指定的GPU資源上。具體的，Kubernetes調度的基礎是FIFO(First In FirstOut，先進先出)調度過程，即任務輸入時間越早越優先被調度執行。對于一個深度學習任務，如果當前系統的GPU資源滿足任務的需求，則為該任務分配資源，而如果當前系統的GPU資源不滿足任務的需求，則掛起該任務，直到有足夠的GPU資源滿足任務的需求。

然而，實際執行多個任務過程中，因用戶角色不同，相應任務被執行的優先級，即為相應任務調度GPU資源的優先級往往不同，如果采用現有的Kubernetes調度方法為任務調度GPU資源，將不能滿足任務執行需求，造成GPU資源利用率低。

發明內容

本發明實施例提供一種資源調度方法、裝置及電子設備，以解決現有的為任務調度GPU資源的方法造成的GPU資源利用率低的問題。

第一方面，本發明實施例提供了一種資源調度方法，包括：

獲取用戶輸入的任務；

確定所述任務的優先級；

將所述任務分配至與所述任務的優先級對應的任務隊列中；

按照所有任務隊列的優先級高低，依次為每個任務隊列中的任務調度GPU資源。

第二方面，本發明實施例提供了一種資源調度裝置，包括：

獲取模塊，用于獲取用戶輸入的任務；

確定模塊，用于確定所述任務的優先級；

分配模塊，用于將所述任務分配至與所述任務的優先級對應的任務隊列中；

調度模塊，用于按照所有任務隊列的優先級高低，依次為每個任務隊列中的任務調度GPU資源。

第三方面，本發明實施例提供了一種電子設備，包括存儲器、處理器及存儲在所述存儲器上并可在所述處理器上運行的計算機程序，其中，所述計算機程序被所述處理器執行時實現上述資源調度方法的步驟。

第四方面，本發明實施例提供了一種計算機可讀存儲介質，其上存儲有計算機程序，其中，所述計算機程序被處理器執行時可實現上述資源調度方法的步驟。

本發明實施例的資源調度方法，通過將用戶輸入的任務分配至與其優先級對應的任務隊列中，按照所有任務隊列的優先級高低，依次為每個任務隊列中的任務調度GPU資源，可以將不同優先級的任務分配至對應的任務隊列中，從而根據任務的優先級動態地為任務調度GPU資源，滿足任務執行需求，提高GPU資源的利用率。

附圖說明