[發(fā)明專利]一種基于互聯(lián)網(wǎng)的分布式顯卡調(diào)用方法及裝置

有效

• 申請?zhí)枺?/td>: 202011487365.3
• 申請日: 2020-12-16
• 公開（公告）號: CN112416605B
• 公開（公告）日: 2021-11-05
• 發(fā)明（設(shè)計）人: 吳越昕;郭建君;孫華慶;李瑞亮;賈宏偉
• 申請（專利權(quán)）人: 北京蔚領(lǐng)時代科技有限公司
• 主分類號: G06F9/50
• 分類號: G06F9/50;G06F9/54;H04L29/06
• 代理公司: 北京智丞瀚方知識產(chǎn)權(quán)代理有限公司 11810
• 代理人: 劉化帥

1.一種基于互聯(lián)網(wǎng)的分布式顯卡調(diào)用方法，其特征在于，包括：

步驟1，在集群中可被使用的設(shè)備中安裝服務(wù)程序；其中集群中可被使用的設(shè)備作為可用遠程主機；

步驟2，在用戶和開發(fā)者的本地主機中關(guān)聯(lián)所有可用遠程主機；

步驟3，通過類圖形API創(chuàng)建邏輯設(shè)備，選擇該邏輯設(shè)備所關(guān)聯(lián)的可用GPU資源，該GPU資源位于本地或可用遠程主機上；每個主程序有且只有一個實例，所述實例創(chuàng)建和管理多個上下文；由所述上下文調(diào)用對應(yīng)的類圖形API來創(chuàng)建邏輯設(shè)備，在創(chuàng)建邏輯設(shè)備時通過上下文確定該邏輯設(shè)備是本地還是遠程；其中每個上下文管理一份獨立的渲染資源；

步驟4，通過類圖形API操作遠程顯卡；其中接收到操作時，通過上下文確定對應(yīng)的可用GPU資源是位于本地還是位于可用遠程主機上；如果位于本地，則按照本地GPU模式執(zhí)行操作，如果位于遠程，則按照遠程GPU模式執(zhí)行操作；

其中按照遠程GPU模式執(zhí)行操作包括：建立通信鏈路，通過通信鏈路完成指令和/或數(shù)據(jù)交換，再通過遠程主機上的服務(wù)將操作解釋執(zhí)行為底層圖形API的執(zhí)行過程；通過本地的指令生成器生成工作/渲染指令操作所對應(yīng)的指令，將所生成的指令通過網(wǎng)絡(luò)/硬件傳輸設(shè)備傳輸?shù)竭h程主機，由遠程主機上的指令解釋器進行解釋；以及通過本地的協(xié)同工作棧將需要同步的數(shù)據(jù)通過網(wǎng)絡(luò)/硬件傳輸設(shè)備傳輸?shù)竭h程主機的協(xié)同工作棧，和/或通過本地的協(xié)同工作棧從遠程主機的協(xié)同工作棧接收需要同步的數(shù)據(jù)，從而進行數(shù)據(jù)同步；以及由遠程主機調(diào)用對應(yīng)的底層圖形API執(zhí)行所需的操作；

其中，所述本地的指令生成器生成工作/渲染指令操作所對應(yīng)的指令包括：從可使用的渲染和計算指令中選擇渲染或計算指令，其中可使用的渲染和計算指令是預(yù)先確定的；通過創(chuàng)建和使用指令緩沖區(qū)，向指令緩沖區(qū)中寫入所選擇的渲染或計算指令；在指令寫入完成后，指令以二進制流的形式存儲在內(nèi)存中；其中每個指令緩沖區(qū)的指令是不可拆分的，通過創(chuàng)建多個指令緩沖區(qū)的方式來拆分要使用的多個渲染或計算指令；

其中所述數(shù)據(jù)交換包括：以格式和大小一致的內(nèi)存區(qū)域的形式分別創(chuàng)建本地的協(xié)同工作棧和遠程主機的協(xié)同工作棧；

步驟5，操作執(zhí)行結(jié)束后返回相關(guān)執(zhí)行結(jié)果數(shù)據(jù)并釋放相關(guān)資源；其中按照遠程GPU模式執(zhí)行操作時，由遠程主機通過互聯(lián)網(wǎng)返回執(zhí)行結(jié)果數(shù)據(jù)；其中執(zhí)行結(jié)果數(shù)據(jù)通過協(xié)同工作棧返回。

2.根據(jù)權(quán)利要求1所述的基于互聯(lián)網(wǎng)的分布式顯卡調(diào)用方法，其特征在于：其中，需要同步的數(shù)據(jù)所采用的數(shù)據(jù)結(jié)構(gòu)與所調(diào)用的GPU所需要的數(shù)據(jù)結(jié)構(gòu)相同，所生成的指令與所調(diào)用的GPU所需要的指令格式相同。

3.根據(jù)權(quán)利要求2所述的基于互聯(lián)網(wǎng)的分布式顯卡調(diào)用方法，其特征在于：其中，類圖形API依次通過接口實現(xiàn)層和設(shè)備關(guān)聯(lián)層來調(diào)用本地設(shè)備或遠程設(shè)備，且遠程設(shè)備由開發(fā)者部署。