[發(fā)明專利]GPU資源使用方法、電子設(shè)備及計算機可讀介質(zhì)

有效

• 申請?zhí)枺?/td>: 202011077196.6
• 申請日: 2020-10-10
• 公開（公告）號: CN111930525B
• 公開（公告）日: 2021-02-02
• 發(fā)明（設(shè)計）人: 張永康;王海鵬;劉東東
• 申請（專利權(quán)）人: 北京世紀好未來教育科技有限公司
• 主分類號: G06F9/50
• 分類號: G06F9/50;G06F9/455
• 代理公司: 北京合智同創(chuàng)知識產(chǎn)權(quán)代理有限公司 11545
• 代理人: 李杰;蘭淑鐸

根據(jù)本發(fā)明實施例提供的GPU資源使用方法、電子設(shè)備及計算機可讀介質(zhì)：工作區(qū)與GPU分離，工作區(qū)虛擬容器對象組件通過遠程請求指令請求遠程的GPU對工作區(qū)虛擬容器對象組件中的應(yīng)用數(shù)據(jù)進行處理，用戶在工作區(qū)虛擬容器對象組件中準備數(shù)據(jù)的時候并不會占用GPU資源，避免了現(xiàn)有技術(shù)中用戶在GPU虛擬容器對象組件中準備數(shù)據(jù)占用GPU資源的情形；且在利用GPU虛擬容器對象組件執(zhí)行完遠程請求指令所請求的操作，并返回操作結(jié)果后，釋放了GPU虛擬容器對象組件占用的GPU資源，被釋放的該GPU資源可以繼續(xù)分配給其它工作區(qū)虛擬容器對象組件進行應(yīng)用數(shù)據(jù)處理使用，GPU的利用率得到提高。

技術(shù)領(lǐng)域

本發(fā)明實施例涉及計算機技術(shù)領(lǐng)域，尤其涉及一種GPU資源使用方法、電子設(shè)備及計算機可讀介質(zhì)。

背景技術(shù)

目前在許多領(lǐng)域，大量的計算任務(wù)均會使用到GPU（圖形處理器）進行處理，以便利用GPU的高處理性能加快運行速度。然而，由于GPU是十分重要的算力資源且售價十分昂貴，如何提高GPU的利用率是目前各大廠商的重點研究課題。

為此，GPU共享技術(shù)應(yīng)運而生，在一種GPU共享技術(shù)中，將GPU作為擴展資源從而實現(xiàn)GPU資源的拆分。其通過一個GPU同時與多個pod（一種虛擬容器對象組件）綁定，來達到共享GPU的目的。但是，該技術(shù)中與GPU綁定的pod會持續(xù)占用可調(diào)度的GPU資源，即使沒有GPU資源使用需求，與其綁定的那部分GPU資源也無法調(diào)度給其他pod使用，使得GPU資源的利用率不高。

發(fā)明內(nèi)容

本發(fā)明提供了一種GPU資源使用方案，以至少部分解決上述問題。

根據(jù)本發(fā)明實施例的第一方面，提供了一種GPU資源使用方法，所述方法包括：接收工作區(qū)虛擬容器對象組件發(fā)送的、用于請求圖形處理器GPU對所述工作區(qū)虛擬容器對象組件中的應(yīng)用數(shù)據(jù)進行處理的遠程請求指令；根據(jù)所述GPU的當前空閑資源的信息，確定可用GPU空閑資源；使用所述可用GPU空閑資源創(chuàng)建GPU虛擬容器對象組件，并根據(jù)所述工作區(qū)虛擬容器對象組件的執(zhí)行環(huán)境參數(shù)初始化所述GPU虛擬容器對象組件的執(zhí)行環(huán)境參數(shù)；通過初始化后的所述GPU虛擬容器對象組件，對所述應(yīng)用數(shù)據(jù)執(zhí)行所述遠程請求指令所請求的操作；在向所述工作區(qū)虛擬容器對象組件返回所述操作的操作結(jié)果后，銷毀所述GPU虛擬容器對象組件并釋放所述GPU虛擬容器對象組件占用的GPU資源。

根據(jù)本發(fā)明實施例的第二方面，提供了一種電子設(shè)備，所述設(shè)備包括：一個或多個處理器；計算機可讀介質(zhì)，配置為存儲一個或多個程序，當所述一個或多個程序被所述一個或多個處理器執(zhí)行，使得所述一個或多個處理器實現(xiàn)如第一方面所述的GPU資源使用方法。

根據(jù)本發(fā)明實施例的第三方面，提供了一種計算機可讀介質(zhì)，其上存儲有計算機程序，該程序被處理器執(zhí)行時實現(xiàn)如第一方面所述的GPU資源使用方法。

根據(jù)本發(fā)明實施例提供的方案：工作區(qū)與GPU分離，工作區(qū)虛擬容器對象組件通過遠程請求指令請求遠程的GPU對工作區(qū)虛擬容器對象組件中的應(yīng)用數(shù)據(jù)進行處理，用戶在工作區(qū)虛擬容器對象組件中準備數(shù)據(jù)的時候并不會占用GPU資源，避免了現(xiàn)有技術(shù)中用戶在GPU虛擬容器對象組件中準備數(shù)據(jù)占用GPU資源的情形；并且，在利用GPU虛擬容器對象組件執(zhí)行完遠程請求指令所請求的操作，并返回操作結(jié)果后，銷毀了GPU虛擬容器對象組件且釋放了GPU虛擬容器對象組件占用的GPU資源，被釋放的該GPU資源可以繼續(xù)分配給其它工作區(qū)虛擬容器對象組件進行應(yīng)用數(shù)據(jù)處理使用，而不會與某一工作區(qū)虛擬容器對象組件綁定，并被該工作區(qū)虛擬容器對象組件持續(xù)占用，因此使得GPU的利用率得到提高。

附圖說明

通過閱讀參照以下附圖所作的對非限制性實施例所作的詳細描述，本發(fā)明的其它特征、目的和優(yōu)點將會變得更明顯：

圖1為根據(jù)本發(fā)明實施例一的一種GPU資源使用方法的步驟流程圖；

圖2為根據(jù)本發(fā)明實施例一的一種GPU資源使用方法流程圖；