[發明專利]用于共用GPU的方法、裝置、電子設備及可讀存儲介質

在審

• 申請號: 202010773883.5
• 申請日: 2020-08-04
• 公開（公告）號: CN111913794A
• 公開（公告）日: 2020-11-10
• 發明（設計）人: 賀龍華
• 申請（專利權）人: 北京百度網訊科技有限公司
• 主分類號: G06F9/48
• 分類號: G06F9/48;G06F9/50
• 代理公司: 北京英賽嘉華知識產權代理有限責任公司 11204
• 代理人: 王達佐;馬曉亞

本申請實施例公開了用于共用GPU的方法、裝置、電子設備及計算機可讀存儲介質，涉及Kubernetes、容器化、云平臺、云計算、資源分配技術領域。該方法的一具體實施方式包括：接收目標容器發起的GPU使用請求；根據該GPU使用請求確定目標虛擬GPU，該目標虛擬GPU為所有虛擬GPU中的至少一個，該虛擬GPU通過對物理GPU使用虛擬化技術虛擬得到；將與該目標虛擬GPU對應的目標物理GPU掛載至該目標容器。該實施方式通過結合虛擬化技術將一個物理GPU虛擬出多個虛擬GPU，可實現將一個物理GPU同時掛載至多個容器、被多個容器共用的目的，提升了GPU的使用率、降低了GPU的購置需求和購置成本。

技術領域

本申請涉及數據處理技術領域，具體涉及Kubernetes、容器化、云平臺、云計算、資源分配技術領域，尤其涉及用于共用GPU的方法、裝置、電子設備及計算機可讀存儲介質。

背景技術

當下容器技術已經改變了當前云計算的應用架構模式，隨著kubernetes成為主流的容器編排引擎，越來越多的應用都托管到了kubernetes這個容器引擎之上。

對于機器學習的場景下很多深度學習的訓練、推理任務均需要使用GPU(GraphicsProcessing Unit，圖形處理器)進行加速，訓練任務一般運行在一個獨立的容器中。

現有的Kubernetes可為每一個容器單獨掛載一個物理GPU，即一個物理GPU只能分配給一個容器使用。

發明內容

本申請實施例提出了一種用于共用GPU的方法、裝置、電子設備及計算機可讀存儲介質。

第一方面，本申請實施例提出了一種用于共用GPU的方法，包括：接收目標容器發起的GPU使用請求；根據GPU使用請求確定目標虛擬GPU；其中，目標虛擬GPU為所有虛擬GPU中的至少一個，虛擬GPU通過對物理GPU使用虛擬化技術虛擬得到；將與目標虛擬GPU對應的目標物理GPU掛載至目標容器。

第二方面，本申請實施例提出了一種用于共用GPU的裝置，包括：請求接收單元，被配置用于接收目標容器發起的GPU使用請求；虛擬GPU確定單元，被配置用于根據GPU使用請求確定目標虛擬GPU；中，目標虛擬GPU為所有虛擬GPU中的至少一個，虛擬GPU通過對物理GPU使用虛擬化技術虛擬得到；物理GPU掛載單元，被配置用于將與目標虛擬GPU對應的目標物理GPU掛載至目標容器。

第三方面，本申請實施例提供了一種電子設備，該電子設備包括：至少一個處理器；以及與至少一個處理器通信連接的存儲器；其中，存儲器存儲有可被至少一個處理器執行的指令，該指令被至少一個處理器執行，以使至少一個處理器執行時能夠實現如第一方面中任一實現方式描述的用于共用GPU的方法。

第四方面，本申請實施例提供了一種存儲有計算機指令的非瞬時計算機可讀存儲介質，該計算機指令用于使計算機執行時能夠實現如第一方面中任一實現方式描述的用于共用GPU的方法。

本申請實施例提供的用于共用GPU的方法、裝置、電子設備及計算機可讀存儲介質，首先，接收目標容器發起的GPU使用請求；然后，根據該GPU使用請求確定目標虛擬GPU，該目標虛擬GPU為所有虛擬GPU中的至少一個，該虛擬GPU通過對物理GPU使用虛擬化技術虛擬得到；最后，將與該目標虛擬GPU對應的目標物理GPU掛載至該目標容器。

區別于一個物理GPU僅能被唯一掛載至的某個容器使用的現有技術，本申請實施例通過結合虛擬化技術將一個物理GPU虛擬出多個虛擬GPU，從而使Kubernetes的可用GPU檢測機制基于不同的虛擬GPU信息識別出多個可用GPU并分配給不同的容器，進而實現一個物理GPU同時掛載至多個容器、被多個容器共同的目的，提升了GPU的使用率、降低了GPU的購置需求和購置成本。

應當理解，本部分所描述的內容并非旨在標識本公開的實施例的關鍵或重要特征，也不用于限制本公開的范圍。本公開的其它特征將通過以下的說明書而變得容易理解。