[發明專利]一種算力資源分配方法、裝置、設備及存儲介質

在審

• 申請號: 202011395313.3
• 申請日: 2020-12-03
• 公開（公告）號: CN112380020A
• 公開（公告）日: 2021-02-19
• 發明（設計）人: 查沖
• 申請（專利權）人: 騰訊科技（深圳）有限公司
• 主分類號: G06F9/50
• 分類號: G06F9/50;G06T1/20
• 代理公司: 深圳市深佳知識產權代理事務所(普通合伙) 44285
• 代理人: 王兆林

本申請實施例公開一種算力資源分配方法、裝置、設備及存儲介質，不同的業務配置對應的容器，每個容器配置對應的算力資源額度在針對目標業務獲取到提交的第一實例時，將第一實例轉換成實例任務，根據業務與容器的對應關系，確定目標業務對應的目標容器。若根據目標容器對應的算力資源額度確定目標容器中無可用算力資源，控制第一實例對應的實例任務進入目標容器的任務隊列。當監測到目標容器中出現可用算力資源時，從任務隊列中調度目標實例任務投入運行。由于通過容器將不同業務進行隔離，同一業務的實例共享同一容器的算力資源，即使在調度時出現優先級搶占也僅是約束在容器內，避免不同業務之間出現算力資源搶占的問題，提高用戶的體驗。

技術領域

本申請涉及數據處理領域，特別是涉及一種算力資源分配方法、裝置、設備及存儲介質。

背景技術

隨著科學技術的飛速發展，各種先進技術不斷涌現。圖形處理器(GraphicsProcessing Unit，GPU)憑借其良好的計算能力，越來越受到歡迎。GPU經常被用來進行各種場景下的計算處理。比如，用于進行人工智能(Artificial Intelligence，AI)模型訓練。

不同業務的AI模型訓練過程中，需要共享算力資源。對于業務使用算力資源，目前方案是提供統一的任務層，多個業務的實例都放在統一的任務層隊列里等待調度，調度的策略基本是先到先得或者配置業務的優先級，按照優先級的高低搶占算力資源。

然而，這種方式將優先級搶占調度的范圍擴大在不同的業務間，導致不同業務之間出現算力資源搶占的問題，影響用戶體驗。

發明內容

為了解決上述技術問題，本申請提供了一種算力資源分配方法、裝置、設備及存儲介質，保證屬于同一業務的實例任務的運行隔離在對應容器中，即使在調度時出現優先級搶占也僅是約束在容器內，避免不同業務之間出現算力資源搶占的問題，而影響其他業務的運行，進而影響用戶體驗。

本申請實施例公開了如下技術方案：

第一方面，本申請實施例提供一種算力資源分配方法，不同的業務配置對應的容器，每個容器配置對應的算力資源額度，所述方法包括：

將獲取到的第一實例轉換成實例任務，所述第一實例屬于目標業務；

根據業務與容器的對應關系，確定所述目標業務對應的目標容器；

若根據所述目標容器對應的算力資源額度確定所述目標容器中無可用算力資源，控制所述第一實例對應的實例任務進入所述目標容器的任務隊列；

當監測到所述目標容器中存在可用算力資源時，從所述任務隊列中調度目標實例任務投入運行。

第二方面，本申請實施例提供一種算力資源分配裝置，不同的業務配置對應的容器，每個容器配置對應的算力資源額度，所述裝置包括轉換單元、確定單元、進入單元和調度單元：

所述轉換單元，用于將獲取到的第一實例轉換成實例任務，所述第一實例屬于目標業務；

所述確定單元，用于根據業務與容器的對應關系，確定所述目標業務對應的目標容器；

所述進入單元，用于若根據所述目標容器對應的算力資源額度確定所述目標容器中無可用算力資源，控制所述第一實例對應的實例任務進入所述目標容器的任務隊列；

所述調度單元，用于當監測到所述目標容器中存在可用算力資源時，從所述任務隊列中調度目標實例任務投入運行。

第三方面，本申請實施例提供一種用于算力資源分配的設備，所述電子設備包括處理器以及存儲器：

所述存儲器用于存儲程序代碼，并將所述程序代碼傳輸給所述處理器；

所述處理器用于根據所述程序代碼中的指令執行第一方面所述的方法。