[發明專利]資源管理方法、設備、系統及存儲介質

在審

• 申請號: 202211303573.2
• 申請日: 2022-10-24
• 公開（公告）號: CN115686839A
• 公開（公告）日: 2023-02-03
• 發明（設計）人: 鄭曉;何旻;宋迪
• 申請（專利權）人: 阿里巴巴（中國）有限公司
• 主分類號: G06F9/50
• 分類號: G06F9/50
• 代理公司: 北京太合九思知識產權代理有限公司 11610
• 代理人: 劉瑞霞

本申請實施例提供一種資源管理方法、設備、系統及存儲介質。在本申請實施例中，可在同一物理機上部署多個虛擬GPU設備，并可采用分時復用方式將該物理機的GPU資源分配給多個虛擬GPU設備。對于當前分配到GPU資源的虛擬GPU設備，可調度該虛擬GPU設備分配到的GPU資源處理該虛擬GPU設備的計算任務，從而實現了GPU資源的分時復用，有助于降低GPU資源的閑置時間，提高GPU資源利用率。

技術領域

本申請涉及計算機技術領域，尤其涉及一種資源管理方法、設備、系統及存儲介質。

背景技術

隨著計算機技術的不斷發展，越來越多的人工智能(Artificial Intelligence，AI)深度訓練任務以容器的形式部署、運行，而AI深度訓練任務在很大程度上依賴圖形處理單元(Graphics Processing Unit，GPU)。隨著云計算的發展，云計算可提供GPU計算服務。

當前云計算提供GPU計算服務時，在基礎設施即服務(Infrastructure as aService，Iaas)層提供的是固定的GPU資源。在當前情況下，用戶租用的一個包含中央處理器(Central Processing Unit，CPU)，內存及GPU的虛擬機，在上面運行各類計算任務，如人工智能識別，圖形渲染等。

但是，在GPU使用過程中，各類計算任務并非長期占用GPU資源,導致GPU資源的浪費。例如，用人工智能算法對卡口的人群進行體溫監測，當有人經過時GPU可以在幾十到幾百毫秒內完成對通過的人員的體溫監測，而該卡口往往幾秒鐘，甚至幾分鐘后才會有下一波人通過，GPU資源在無人通過時閑置，GPU資源浪費嚴重。

發明內容

本申請的多個方面提供一種資源管理方法、設備、系統及存儲介質，用以提高GPU資源利用率。

本申請實施例提供一種資源管理方法，包括：

響應于用戶的資源申請請求，在物理機上為所述用戶構建虛擬GPU設備；其中，構建在同一物理機上的虛擬GPU設備共享所述同一物理機的GPU資源；

針對在同一目標物理機的多個虛擬GPU設備，采用分時復用方式將所述目標物理機的GPU資源，分配給所述多個虛擬GPU設備；

針對當前分配到GPU資源的目標虛擬GPU設備，調度所述目標虛擬GPU設備分配到的GPU資源，處理所述目標虛擬GPU設備的計算任務。本申請實施例還提供一種資源管理系統，包括：管控節點和多個計算節點；所述計算節點用于提供GPU資源；

所述管控節點，用于響應于用戶的資源申請請求，在所述計算節點上為所述用戶構建虛擬GPU設備；其中，構建在同一計算節點上的虛擬GPU設備共享所述同一計算節點的GPU資源；針對在同一目標計算節點的多個虛擬GPU設備，采用分時復用方式將所述目標計算節點的GPU資源，分配給所述多個虛擬GPU設備；針對當前分配到GPU資源的目標虛擬GPU設備，調度所述目標虛擬GPU設備分配到的GPU資源，處理所述目標虛擬GPU設備的計算任務。

本申請實施例還提供一種計算設備，包括：存儲器和處理器；其中，所述存儲器，用于存儲計算機程序；

所述處理器耦合至所述存儲器，用于執行所述計算機程序以用于執行上述資源管理方法中的步驟。

本申請實施例還提供一種存儲有計算機指令的計算機可讀存儲介質，當所述計算機指令被一個或多個處理器執行時，致使所述一個或多個處理器執行上述資源管理方法中的步驟。

在本申請實施例中，可在同一物理機上部署多個虛擬GPU設備，并可采用分時復用方式將該物理機的GPU資源分配給多個虛擬GPU設備。對于當前分配到GPU資源的虛擬GPU設備，之后，可調度該虛擬GPU設備分配到的GPU資源處理虛擬GPU設備的計算任務，從而實現了GPU資源的分時復用，有助于降低GPU資源的閑置時間，提高GPU資源利用率。

附圖說明