[發明專利]一種基于X86服務器平臺的GPU資源使用方法及系統

在審

• 申請號: 202011026086.7
• 申請日: 2020-09-25
• 公開（公告）號: CN112231048A
• 公開（公告）日: 2021-01-15
• 發明（設計）人: 張會健
• 申請（專利權）人: 蘇州浪潮智能科技有限公司
• 主分類號: G06F9/455
• 分類號: G06F9/455;G06F9/50
• 代理公司: 濟南誠智商標專利事務所有限公司 37105
• 代理人: 黃曉燕

1.一種基于X86服務器平臺的GPU資源使用方法，其特征在于，所述方法包括下述步驟：

當在容器管理平臺上創建容器時，查詢滿足資源申請請求的集群節點，并將資源申請請求發送給查找到的集群節點上；

控制利用預先創建的GPU設備插件將物理GPU創建為vfio設備，并將創建的所述vfio設備的設備路徑加入到容器的模擬處理器qemu的啟動參數中；

在所述容器啟動過程中，加載預先集成的虛擬GPU的驅動程序和控制虛擬GPU的許可注冊。

2.根據權利要求1所述的基于X86服務器平臺的GPU資源使用方法，其特征在于，所述當在容器管理平臺上創建容器時，查詢滿足資源申請請求的集群節點，并將資源申請請求發送給查找到的集群節點上的步驟之前還包括下述步驟：

在容器管理平臺和所述容器管理平臺下的每一個集群節點均部署GPU設備插件，運行在所述集群節點的所述GPU設備插件用于對本節點上的GPU卡數量以及每個GPU的顯存數量進行掃描，并上報給所述容器管理平臺；

控制運行在所述集群節點的所述GPU設備插件對本節點上的GPU卡數量以及每個GPU的顯存數量進行實時掃描，并上報給所述容器管理平臺。

3.根據權利要求2所述的基于X86服務器平臺的GPU資源使用方法，其特征在于，所述在容器管理平臺和所述容器管理平臺下的每一個集群節點均部署GPU設備插件的步驟之后還包括下述步驟：

當在容器管理平臺上創建容器時，指定待創建的容器所使用的GPU數量以及每一個GPU的顯存數量，并以此生成包含指定的待創建的容器所使用的GPU數量以及每一個GPU的顯存數量的資源申請請求。

4.根據權利要求1所述的基于X86服務器平臺的GPU資源使用方法，其特征在于，所述在所述容器啟動過程中，加載預先集成的虛擬GPU的驅動程序和控制虛擬GPU的許可注冊的步驟之前還包括下述步驟：

在待創建的容器鏡像中集成nvidia虛擬GPU的驅動程序以及虛擬GPU的許可注冊程序。

5.根據權利要求1所述的基于X86服務器平臺的GPU資源使用方法，其特征在于，所述在所述容器啟動過程中，加載預先集成的虛擬GPU的驅動程序和控制虛擬GPU的許可注冊的步驟之后還包括下述步驟：

當創建的所述容器停止使用時，控制GPI設備插件回收虛擬GPU的顯存資源，并取消物理GPU的虛擬化；

將回收虛擬GPU的顯存資源和取消物理GPU的虛擬化的狀態信息反饋給所述容器管理平臺。

6.一種基于X86服務器平臺的GPU資源使用系統，其特征在于，所述系統包括：

集群節點查詢模塊，用于當在容器管理平臺上創建容器時，查詢滿足資源申請請求的集群節點；

資源申請請求發送模塊，用于將資源申請請求發送給查找到的集群節點上；

vfio設備創建模塊，用于控制利用預先創建的GPU設備插件將物理GPU創建為vfio設備；

設備路徑添加模塊，用于將創建的所述vfio設備的設備路徑加入到容器的模擬處理器qemu的啟動參數中；

驅動程序加載模塊，用于在所述容器啟動過程中，加載預先集成的虛擬GPU的驅動程序；

許可注冊模塊，用于在所述容器啟動過程中，控制虛擬GPU的許可注冊。

7.根據權利要求6所述的基于X86服務器平臺的GPU資源使用系統，其特征在于，所述系統還包括：

GPU設備插件部署模塊，用于在容器管理平臺和所述容器管理平臺下的每一個集群節點均部署GPU設備插件，運行在所述集群節點的所述GPU設備插件用于對本節點上的GPU卡數量以及每個GPU的顯存數量進行掃描，并上報給所述容器管理平臺；

掃描上報模塊，用于控制運行在所述集群節點的所述GPU設備插件對本節點上的GPU卡數量以及每個GPU的顯存數量進行實時掃描，并上報給所述容器管理平臺。