[發(fā)明專(zhuān)利]一種基于GPU虛擬化的資源復(fù)用方法、裝置及設(shè)備有效
| 申請(qǐng)?zhí)枺?/td> | 202010037822.2 | 申請(qǐng)日： | 2020-01-14 |
| 公開(kāi)（公告）號(hào)： | CN110851285B | 公開(kāi)（公告）日： | 2020-04-24 |
| 發(fā)明（設(shè)計(jì)）人： | 趙軍平 | 申請(qǐng)（專(zhuān)利權(quán)）人： | 支付寶（杭州）信息技術(shù)有限公司 |
| 主分類(lèi)號(hào)： | G06F9/50 | 分類(lèi)號(hào)： | G06F9/50;G06F9/455 |
| 代理公司： | 北京晉德允升知識(shí)產(chǎn)權(quán)代理有限公司 11623 | 代理人： | 王戈 |
| 地址： | 310000 浙江省杭州市*** | 國(guó)省代碼： | 浙江;33 |
| 權(quán)利要求書(shū)： | 查看更多 | 說(shuō)明書(shū)： | 查看更多 |
| 摘要： | |||
| 搜索關(guān)鍵詞： | 一種 基于 gpu 虛擬 資源 方法 裝置 設(shè)備 | ||
本說(shuō)明書(shū)實(shí)施例公開(kāi)了一種基于GPU虛擬化的資源復(fù)用方法、裝置及設(shè)備。方案包括：通過(guò)在客戶端預(yù)先存儲(chǔ)對(duì)于第一資源的設(shè)置參數(shù)，從而令客戶端本地可以處理AI框架層發(fā)送的用于創(chuàng)建第一資源的第一API調(diào)用請(qǐng)求，以及對(duì)所述第一資源進(jìn)行設(shè)置的第二API調(diào)用請(qǐng)求，無(wú)需轉(zhuǎn)發(fā)GPU驅(qū)動(dòng)；并令客戶端在獲取到AI框架層發(fā)送的用于基于第一資源進(jìn)行計(jì)算的第三API調(diào)用請(qǐng)求時(shí)，將生成的針對(duì)第一資源的第一計(jì)算指令以及預(yù)先存儲(chǔ)的對(duì)于第一資源的設(shè)置參數(shù)，發(fā)送至GPU驅(qū)動(dòng)，從而利用GPU虛擬化技術(shù)執(zhí)行AI任務(wù)。
技術(shù)領(lǐng)域
本申請(qǐng)涉及計(jì)算機(jī)技術(shù)領(lǐng)域，尤其涉及一種基于GPU虛擬化的資源復(fù)用方法、裝置及設(shè)備。
背景技術(shù)
圖形處理器（Graphics Processing Unit，GPU）是一種可以用于對(duì)圖像和圖形進(jìn)行高效計(jì)算處理的微處理器。越來(lái)越多的人工智能技術(shù)開(kāi)始基于GPU而實(shí)現(xiàn)。為對(duì)GPU資源進(jìn)行合理分配，GPU虛擬化技術(shù)應(yīng)運(yùn)而生。使用GPU虛擬化技術(shù)之后，可以讓不同的人工智能（Artificial Intelligence，AI）任務(wù)去共享一個(gè)或多個(gè)GPU上的資源執(zhí)行計(jì)算。這種安全且高效的GPU資源管理方式，被越來(lái)越多的用戶使用。但是，目前利用GPU虛擬化技術(shù)執(zhí)行AI任務(wù)時(shí)，基于GPU虛擬化技術(shù)執(zhí)行AI任務(wù)時(shí)的運(yùn)行效率還有待提高。
發(fā)明內(nèi)容
有鑒于此，本申請(qǐng)實(shí)施例提供了一種基于GPU虛擬化的資源復(fù)用方法、裝置及設(shè)備，用于提高基于GPU虛擬化技術(shù)執(zhí)行AI任務(wù)時(shí)的運(yùn)行效率。
為解決上述技術(shù)問(wèn)題，本說(shuō)明書(shū)實(shí)施例是這樣實(shí)現(xiàn)的：
本說(shuō)明書(shū)實(shí)施例提供的一種基于GPU虛擬化的資源復(fù)用方法，應(yīng)用于GPU虛擬化系統(tǒng)中的客戶端，包括：
獲取AI框架層發(fā)送的用于創(chuàng)建第一資源的第一API調(diào)用請(qǐng)求；
確定預(yù)先存儲(chǔ)的與所述第一資源相匹配的數(shù)據(jù)所在的內(nèi)存地址；所述與所述第一資源相匹配的數(shù)據(jù)包含對(duì)于所述第一資源的設(shè)置參數(shù)；
向所述AI框架層反饋所述與所述第一資源相匹配的數(shù)據(jù)所在的內(nèi)存地址；
獲取所述AI框架層發(fā)送的用于對(duì)所述第一資源進(jìn)行設(shè)置的第二API調(diào)用請(qǐng)求；
向所述AI框架層反饋用于表示設(shè)置成功的消息；
獲取所述AI框架層發(fā)送的用于基于所述第一資源進(jìn)行計(jì)算的第三API調(diào)用請(qǐng)求；
基于所述第三API調(diào)用請(qǐng)求，生成針對(duì)所述第一資源的第一計(jì)算指令；
將所述第一計(jì)算指令以及所述與所述第一資源相匹配的數(shù)據(jù)發(fā)送至GPU驅(qū)動(dòng)。
本說(shuō)明書(shū)實(shí)施例提供的一種基于GPU虛擬化的資源復(fù)用裝置，應(yīng)用于GPU虛擬化系統(tǒng)中的客戶端，包括：
第一獲取模塊，用于獲取AI框架層發(fā)送的用于創(chuàng)建第一資源的第一API調(diào)用請(qǐng)求；
第一確定模塊，用于確定預(yù)先存儲(chǔ)的與所述第一資源相匹配的數(shù)據(jù)所在的內(nèi)存地址；所述與所述第一資源相匹配的數(shù)據(jù)包含對(duì)于所述第一資源的設(shè)置參數(shù)；
第一反饋模塊，用于向所述AI框架層反饋所述與所述第一資源相匹配的數(shù)據(jù)所在的內(nèi)存地址；
第二獲取模塊，用于獲取所述AI框架層發(fā)送的用于對(duì)所述第一資源進(jìn)行設(shè)置的第二API調(diào)用請(qǐng)求；
第二反饋模塊，用于向所述AI框架層反饋用于表示設(shè)置成功的消息；
第三獲取模塊，用于獲取所述AI框架層發(fā)送的用于基于所述第一資源進(jìn)行計(jì)算的第三API調(diào)用請(qǐng)求；
第一計(jì)算指令生成模塊，用于基于所述第三API調(diào)用請(qǐng)求，生成針對(duì)所述第一資源的第一計(jì)算指令；
該專(zhuān)利技術(shù)資料僅供研究查看技術(shù)是否侵權(quán)等信息，商用須獲得專(zhuān)利權(quán)人授權(quán)。該專(zhuān)利全部權(quán)利屬于支付寶（杭州）信息技術(shù)有限公司，未經(jīng)支付寶（杭州）信息技術(shù)有限公司許可，擅自商用是侵權(quán)行為。如果您想購(gòu)買(mǎi)此專(zhuān)利、獲得商業(yè)授權(quán)和技術(shù)合作，請(qǐng)聯(lián)系【客服】
本文鏈接：http://www.szxzyx.cn/pat/books/202010037822.2/2.html，轉(zhuǎn)載請(qǐng)聲明來(lái)源鉆瓜專(zhuān)利網(wǎng)。
- 同類(lèi)專(zhuān)利
- 專(zhuān)利分類(lèi)
- 圖形處理器任務(wù)的分配方法和裝置
- 一種資源調(diào)度裝置、資源調(diào)度系統(tǒng)和資源調(diào)度方法
- 一種免工具GPU支架固定裝置
- 一種YARN集群GPU資源調(diào)度方法、裝置和介質(zhì)
- 一種服務(wù)器內(nèi)4GPU布局結(jié)構(gòu)及其安裝方法
- 一種GPU資源調(diào)度系統(tǒng)及其調(diào)度方法
- 一種GPU拓?fù)浞謪^(qū)方法與裝置
- 一種基于Kubernetes的共享GPU調(diào)度方法
- 一種數(shù)據(jù)處理的方法和裝置
- 一種GPU分配方法、系統(tǒng)、存儲(chǔ)介質(zhì)及設(shè)備
- 確定吸收制品功效
- 一種虛擬機(jī)的安全訪問(wèn)方法及虛擬機(jī)系統(tǒng)
- 一種虛擬桌面的解鎖方法及裝置
- 一種實(shí)時(shí)處理虛擬交換機(jī)網(wǎng)絡(luò)流量的虛擬化平臺(tái)
- 虛擬智能家居實(shí)訓(xùn)系統(tǒng)及其虛擬實(shí)訓(xùn)方法
- 虛擬機(jī)的磁盤(pán)資源的管理方法和裝置
- 一種基于KVM的虛擬網(wǎng)卡管理方法
- 虛擬資源數(shù)據(jù)處理方法、裝置、計(jì)算機(jī)設(shè)備和存儲(chǔ)介質(zhì)
- 基于虛擬環(huán)境的道具使用方法、裝置、設(shè)備及介質(zhì)
- 虛擬道具的獲取方法、裝置、設(shè)備及介質(zhì)
