[發(fā)明專利]共享專用處理資源的方法、裝置、設(shè)備和存儲介質(zhì)

在審

• 申請?zhí)枺?/td>: 201910690660.X
• 申請日: 2019-07-29
• 公開（公告）號: CN110413377A
• 公開（公告）日: 2019-11-05
• 發(fā)明（設(shè)計）人: 郭利軍;張宇;謝廣軍;劉琦
• 申請（專利權(quán)）人: 北京百度網(wǎng)訊科技有限公司
• 主分類號: G06F9/455
• 分類號: G06F9/455;G06F9/54
• 代理公司: 北京市金杜律師事務(wù)所 11256
• 代理人: 李輝;李興斌

本公開涉及共享專用處理資源的方法、裝置、設(shè)備和存儲介質(zhì)。該方法包括：響應(yīng)于接收到用于調(diào)用專用處理資源的接口的請求，在虛擬機的用戶態(tài)提取與所述請求相關(guān)聯(lián)的信息；在所述虛擬機的內(nèi)核態(tài)，將所述信息提供給運行所述虛擬機的主機；以及在所述主機，基于所述信息來調(diào)用所述專用處理資源的所述接口。

技術(shù)領(lǐng)域

本公開的實施例一般地涉及專用處理資源，特別是圖形處理單元(GPU)資源的虛擬化，并且更具體地涉及共享GPU資源的方法、裝置、設(shè)備和計算機可讀存儲介質(zhì)。

背景技術(shù)

隨著人工智能的飛速發(fā)展，無人駕駛、人臉識別等技術(shù)逐漸被人們所熟知。這些技術(shù)背后依賴的強大算力可以由中央處理單元(CPU)來提供，也可以由GPU提供。CPU是專為順序串行處理而優(yōu)化的幾個核心組成，而GPU則擁有大量的更小、更高效的核心組成的大規(guī)模并行計算架構(gòu)。GPU專為同時處理多重任務(wù)而設(shè)計，更適合進(jìn)行并行計算，從而為人工智能提供強大算力。

云計算平臺通過GPU虛擬化技術(shù)，可以為用戶提供可用于模型訓(xùn)練、預(yù)測、高性能計算等服務(wù)的GPU實例。目前，云平臺使用的主流方案是透傳技術(shù)，即一塊GPU卡只能分配給一個虛擬機實例，排他獨占；其他虛擬機實例不能再訪問這塊卡。然而，在有些使用場景中，例如，課程教學(xué)，每個學(xué)生可以使用一個虛擬機。在這種場景中需要的算力不是很高，如果直接使用透傳技術(shù)，無疑導(dǎo)致資源浪費。

發(fā)明內(nèi)容

根據(jù)本公開的實施例，提供了一種用于GPU資源的共享式訪問方案。

在本公開的第一方面，提供了一種用于共享專用處理資源的方法。該方法包括：響應(yīng)于接收到用于調(diào)用專用處理資源的接口的請求，在虛擬機的用戶態(tài)提取與所述請求相關(guān)聯(lián)的信息；在所述虛擬機的內(nèi)核態(tài)，將所述信息提供給運行所述虛擬機的主機；以及在所述主機，基于所述信息來調(diào)用所述專用處理資源的所述接口。

在本公開的第二方面，提供了一種用于共享專用處理資源的裝置，包括：提取模塊，被配置為響應(yīng)于接收到用于調(diào)用專用處理資源的接口的請求，在虛擬機的用戶態(tài)提取與所述請求相關(guān)聯(lián)的信息；提供模塊，被配置為在所述虛擬機的內(nèi)核態(tài)，將所述信息提供給運行所述虛擬機的主機；以及調(diào)用模塊，被配置為在所述主機，基于所述信息來調(diào)用所述專用處理資源的所述接口。

在本公開的第三方面，提供了一種電子設(shè)備。該電子設(shè)備包括：一個或多個處理器；以及存儲器，用于存儲一個或多個程序，當(dāng)所述一個或多個程序被所述一個或多個處理器執(zhí)行，使得電子設(shè)備實現(xiàn)根據(jù)本公開的第一方面的方法。

在本公開的第四方面，提供了一種計算機可讀介質(zhì)，其上存儲有計算機程序，該程序被處理器執(zhí)行時實現(xiàn)根據(jù)本公開的第一方面的方法。

應(yīng)當(dāng)理解，發(fā)明內(nèi)容部分中所描述的內(nèi)容并非旨在限定本公開的實施例的關(guān)鍵或重要特征，亦非用于限制本公開的范圍。本公開的其它特征將通過以下的描述變得容易理解。

附圖說明

結(jié)合附圖并參考以下詳細(xì)說明，本公開各實施例的上述和其他特征、優(yōu)點及方面將變得更加明顯。在附圖中，相同或相似的附圖標(biāo)記表示相同或相似的元素，其中：

圖1示出了能夠在其中實現(xiàn)本公開的實施例的示例性環(huán)境的示意圖；

圖2示出了根據(jù)本公開的一些實施例的用于共享GPU資源的方法的流程圖；

圖3示出了根據(jù)本公開的一些實施例的用于共享GPU資源的裝置的方框圖；以及

圖4示出了能夠?qū)嵤┍竟_的一些實施例的電子設(shè)備的方框圖。

具體實施方式