[發明專利]一種基于X86服務器平臺的GPU資源使用方法及系統

在審

• 申請號: 202011026086.7
• 申請日: 2020-09-25
• 公開（公告）號: CN112231048A
• 公開（公告）日: 2021-01-15
• 發明（設計）人: 張會健
• 申請（專利權）人: 蘇州浪潮智能科技有限公司
• 主分類號: G06F9/455
• 分類號: G06F9/455;G06F9/50
• 代理公司: 濟南誠智商標專利事務所有限公司 37105
• 代理人: 黃曉燕

本發明涉及服務器技術領域，提供一種基于X86服務器平臺的GPU資源使用方法及系統，方法包括：當在容器管理平臺上創建容器時，查詢滿足資源申請請求的集群節點，并將資源申請請求發送給查找到的集群節點上；控制利用預先創建的GPU設備插件將物理GPU創建為vfio設備，并將創建的所述vfio設備的設備路徑加入到容器的模擬處理器qemu的啟動參數中；在所述容器啟動過程中，加載預先集成的虛擬GPU的驅動程序和控制虛擬GPU的許可注冊，從而實現通過GPU虛擬化技術對GPU顯存進行管理，避免了傳統方式中將整個物理GPU分配給容器使用造成的資源浪費，提高了GPU顯存利用率。

技術領域

本發明屬于服務器技術領域，尤其涉及一種基于X86服務器平臺的GPU資源使用方法及系統。

背景技術

隨著當前云計算的發展，容器技術得到了普遍的應用，其中，容器技術是有效的將單個操作系統的資源劃分到孤立的組中，以便更好的在孤立的組之間平衡有沖突的資源使用需求。

目前，主流的容器編排調度平臺(例如kubernetes)在使用圖形處理器(GraphicsProcessing Unit，GPU)資源時，通常只能對物理GPU資源進行調度，如果容器申請使用的GPU顯存較少也需要分配一個完整的GPU設備，造成GPU顯存資源不能被充分利用。

發明內容

針對現有技術中的缺陷，本發明提供了一種基于X86服務器平臺的GPU資源使用方法，旨在解決現有技術中容器申請使用的GPU顯存較少時，也分配一個完整的GPU設備，造成GPU顯存資源不能被充分利用的問題。

本發明所提供的技術方案是：一種基于X86服務器平臺的GPU資源使用方法，所述方法包括下述步驟：

當在容器管理平臺上創建容器時，查詢滿足資源申請請求的集群節點，并將資源申請請求發送給查找到的集群節點上；

控制利用預先創建的GPU設備插件將物理GPU創建為vfio設備，并將創建的所述vfio設備的設備路徑加入到容器的模擬處理器qemu的啟動參數中；

在所述容器啟動過程中，加載預先集成的虛擬GPU的驅動程序和控制虛擬GPU的許可注冊。

作為一種改進的方案，所述當在容器管理平臺上創建容器時，查詢滿足資源申請請求的集群節點，并將資源申請請求發送給查找到的集群節點上的步驟之前還包括下述步驟：

在容器管理平臺和所述容器管理平臺下的每一個集群節點均部署GPU設備插件，運行在所述集群節點的所述GPU設備插件用于對本節點上的GPU卡數量以及每個GPU的顯存數量進行掃描，并上報給所述容器管理平臺；

控制運行在所述集群節點的所述GPU設備插件對本節點上的GPU卡數量以及每個GPU的顯存數量進行實時掃描，并上報給所述容器管理平臺。

作為一種改進的方案，所述在容器管理平臺和所述容器管理平臺下的每一個集群節點均部署GPU設備插件的步驟之后還包括下述步驟：

當在容器管理平臺上創建容器時，指定待創建的容器所使用的GPU數量以及每一個GPU的顯存數量，并以此生成包含指定的待創建的容器所使用的GPU數量以及每一個GPU的顯存數量的資源申請請求。

作為一種改進的方案，所述在所述容器啟動過程中，加載預先集成的虛擬GPU的驅動程序和控制虛擬GPU的許可注冊的步驟之前還包括下述步驟：

在待創建的容器鏡像中集成nvidia虛擬GPU的驅動程序以及虛擬GPU的許可注冊程序。

作為一種改進的方案，所述在所述容器啟動過程中，加載預先集成的虛擬GPU的驅動程序和控制虛擬GPU的許可注冊的步驟之后還包括下述步驟：

當創建的所述容器停止使用時，控制GPI設備插件回收虛擬GPU的顯存資源，并取消物理GPU的虛擬化；