[發明專利]用于向專用計算資源分配任務的方法、設備和計算機可讀存儲介質

有效

• 申請號: 201811288666.6
• 申請日: 2018-10-31
• 公開（公告）號: CN111124656B
• 公開（公告）日: 2023-09-15
• 發明（設計）人: 趙軍平;劉金鵬;王鯤
• 申請（專利權）人: 伊姆西IP控股有限責任公司
• 主分類號: G06F9/50
• 分類號: G06F9/50
• 代理公司: 北京市金杜律師事務所 11256
• 代理人: 王茂華;丁君軍

本公開的實施例涉及一種用于向專用計算資源分配任務的方法、設備和計算機程序產品。該方法包括獲取多個專用計算資源的硬件信息，其中多個專用計算資源包括第一專用計算資源和第二專用計算資源，并且硬件信息包括第一專用計算資源的第一硬件信息和第二專用計算資源的第二硬件信息。方法還包括生成基于第一硬件信息的第一任務和基于第二硬件信息的第二任務，并且向第一專用計算資源分配第一任務并且向第二專用計算資源分配第二任務。本公開的實施例針對異構專用計算資源(例如加速器設備)場景下的任務調度，根據不同的硬件能力生成相應的內核代碼，能夠實現針對異構專用計算資源的動態優化，從而提高資源利用率和執行效率。

技術領域

本公開的實施例總體上涉及計算機領域，并且更具體地涉及用于向專用計算資源分配任務的方法、設備以及計算機程序產品。

背景技術

專用處理資源是指一些具有專門用途的處理資源，例如圖形處理單元(GPU)和現場可編程門陣列(FPGA)等加速器設備。GPU是一種專用于圖形或圖像的核心處理器，其主要任務是加速圖形處理速度。GPU由于其高性能優勢(諸如多核且適于矩陣運算)，因而廣泛用作許多應用的加速器，諸如機器學習應用和深度學習應用。FPGA是專用集成電路(ASIC)領域中的一種半定制電路，既解決了定制電路的不足，又克服了原有可編程器件門電路數有限的缺點。FPGA具有顯著的加速能力，因而也適合執行深度學習任務。

在處理高性能計算任務時，為了提高并行性和處理速度，通常需要多個專用處理資源一起參與。例如，將一個總任務劃分成若干個子任務，然后由若干個專用處理資源來分別執行。通常，專用處理資源的價格相對昂貴，用戶在購買了新的專用處理資源時可能仍然還在使用一些老的專用處理資源。因此，在執行某個高性能計算任務的過程中，可能存在多個不同類型的多個專用處理資源在同時處理的情形。

發明內容

本公開的實施例提供了一種用于向專用計算資源分配任務的方法、設備和計算機程序產品。

在本公開的一個方面，提供了一種用于向專用計算資源分配任務的方法。該方法包括：獲取多個專用計算資源的硬件信息，其中多個專用計算資源包括第一專用計算資源和第二專用計算資源，并且硬件信息包括第一專用計算資源的第一硬件信息和第二專用計算資源的第二硬件信息；生成基于第一硬件信息的第一任務和基于第二硬件信息的第二任務；以及向第一專用計算資源分配第一任務并且向第二專用計算資源分配第二任務。

在本公開的另一方面，提供了一種用于向專用計算資源分配任務的設備。該設備包括處理單元以及存儲器，其中存儲器被耦合至處理單元并且存儲有指令。所述指令在由處理單元執行時執行以下動作：獲取多個專用計算資源的硬件信息，其中多個專用計算資源包括第一專用計算資源和第二專用計算資源，并且硬件信息包括第一專用計算資源的第一硬件信息和第二專用計算資源的第二硬件信息；生成基于第一硬件信息的第一任務和基于第二硬件信息的第二任務；以及向第一專用計算資源分配第一任務并且向第二專用計算資源分配第二任務。

在本公開的又一方面，提供了一種計算機程序產品。該計算機程序產品被有形地存儲在非瞬態計算機可讀介質上并且包括計算機可執行指令，所述計算機可執行指令在被執行時使得計算機執行根據本公開的實施例的方法或過程。

提供發明內容部分是為了簡化的形式來介紹對概念的選擇，它們在下文的具體實施方式中將被進一步描述。本發明內容部分無意標識本公開的關鍵特征或主要特征，也無意限制本公開的各個實施例的范圍。

附圖說明

通過結合附圖對本公開示例性實施例進行更詳細的描述，本公開的上述以及其它目的、特征和優勢將變得更加明顯，其中在本公開示例性實施例中，相同的附圖標記通常代表相同的元素。

圖1示出了根據本公開的實施例的向異構專用計算資源動態分配任務的示例架構的示意圖；

圖2示出了根據本公開的實施例的用于向專用計算資源分配任務的方法的流程圖；