[發明專利]處理計算任務的方法、設備和計算機程序產品

在審

• 申請號: 201810359117.7
• 申請日: 2018-04-20
• 公開（公告）號: CN110389824A
• 公開（公告）日: 2019-10-29
• 發明（設計）人: 趙軍平;彭麟;應治;王鯤
• 申請（專利權）人: 伊姆西IP控股有限責任公司
• 主分類號: G06F9/50
• 分類號: G06F9/50;G06N3/02
• 代理公司: 北京市金杜律師事務所 11256
• 代理人: 王茂華;李崢宇

本公開的實現涉及處理計算任務的方法、設備和計算機程序產品。根據本公開的一個示例性實現，提供了一種用于處理計算任務的方法。該方法包括：獲取多個計算資源的狀態信息；響應于接收到基于神經網絡模型的計算任務，確定與神經網絡模型相關聯的多個層的配置信息；基于配置信息獲取與多個層中的至少一部分層相關聯的參數數據；以及基于狀態信息和參數數據，從多個計算資源中選擇一組計算資源以用于處理計算任務。根據本公開的其他示例性實現，提供了處理計算任務設備和計算機程序產品。根據本公開的示例性實現，可以充分利用多個計算資源，并且確保多個計算資源之間的負載平衡。

技術領域

本公開的實現概括地涉及包括專用計算資源的計算系統，并且更具體地，涉及用于處理計算任務的方法、設備以及計算機程序產品。

背景技術

客戶端上的應用可以被設計用于利用處理和存儲資源等計算資源來完成各種處理或分析任務。隨著諸如機器學習、深度學習、數據挖掘等任務的需求和復雜度不斷增加，需要大量和/或可變的計算資源來滿足相應應用的運行。這可以通過具有多個專用計算資源的機器或系統來實現，其中應用可以被調度到該機器或系統的一個或多個專用計算資源上運行。例如，已經開發了基于云的計算系統，該計算系統包括具有一個或多個專用計算資源的機器。不同客戶端可以根據需要來租賃該系統的計算資源(例如，專用計算資源)用以運行各自的應用。

隨著計算機技術的發展，計算資源的種類越來越豐富，并且已經不再局限于傳統的諸如中央處理單元的計算資源。例如，目前圖形處理單元(Graphic Processing Unit，GPU)的計算能力越來越強。由于GPU特有性質，GPU特別適合于執行有關深度學習(DeepLearning)、高性能計算(High Performance Computing)、以及機器學習(MachineLearning)等方面的計算任務。然而，對于普通的客戶端設備以及常規的云計算設備而言，這些設備的圖形處理單元的性能通常較為有限，并不具有高性能的處理能力。因而，此時如何利用(例如以遠程方式)利用其他設備所具有的圖形處理單元的計算能力來處理計算任務成為一個研究焦點。

然而，目前的一些技術方案并不能充分且有效地利用遠程的計算資源(例如，計算資源池中的計算資源)的處理能力，而是在資源池中可能會出現計算資源的閑置和/或工作負載不平衡的狀況。因此，期望能夠提供一種以簡單并且有效的方式來利用資源池中的多個計算資源處理計算任務的技術方案。

發明內容

本公開的實現提供了用于處理計算任務的方法、設備和相應的計算機程序產品。

根據本公開的第一方面，提供了一種用于處理計算任務的方法。該方法包括：獲取多個計算資源的狀態信息；響應于接收到基于神經網絡模型的計算任務，確定與神經網絡模型相關聯的多個層的配置信息；基于配置信息獲取與多個層中的至少一部分層相關聯的參數數據；以及基于狀態信息和參數數據，從多個計算資源中選擇一組計算資源以用于處理計算任務。

根據本公開的第二方面，提供了一種用于處理計算任務的設備。該設備包括：至少一個處理器；易失性存儲器；以及與至少一個處理器耦合的存儲器，存儲器具有存儲于其中的指令，指令在被至少一個處理器執行時使得設備執行動作。該動作包括：獲取多個計算資源的狀態信息；響應于接收到基于神經網絡模型的計算任務，確定與神經網絡模型相關聯的多個層的配置信息；基于配置信息獲取與多個層中的至少一部分層相關聯的參數數據；以及基于狀態信息和參數數據，從多個計算資源中選擇一組計算資源以用于處理計算任務。

根據本公開內容的第三方面，提供了一種計算機程序產品。該計算機程序產品被有形地存儲在計算機可讀介質上并且包括機器可執行指令，機器可執行指令在被執行時使機器執行根據第一方面的方法。

提供發明內容部分是為了簡化的形式來介紹對概念的選擇，它們在下文的具體實施方式中將被進一步描述。發明內容部分無意標識本公開的關鍵特征或主要特征，也無意限制本公開的范圍。

附圖說明