[發明專利]基于API重定向技術的GPU虛擬化實現系統及方法

在審

• 申請號: 202010134209.2
• 申請日: 2020-03-02
• 公開（公告）號: CN111399976A
• 公開（公告）日: 2020-07-10
• 發明（設計）人: 戚正偉;李凱詩;管海兵;湯冬劼;汪沄;李林生
• 申請（專利權）人: 上海交通大學
• 主分類號: G06F9/455
• 分類號: G06F9/455;G06F9/50
• 代理公司: 上海恒慧知識產權代理事務所(特殊普通合伙) 31317
• 代理人: 張寧展

1.一種基于API重定向技術的GPU虛擬化實現系統，其特征在于，包括：設置于客戶端的指令代理模塊；設置于遠程服務器端的任務調度模塊和一個或多個微GPU模塊；設置于客戶端和遠程服務器端之間用于數據通訊的通信模塊；其中：

所述指令代理模塊：用于截獲客戶端的圖像應用程序中與OpenGL相關的API調用指令，并對該指令進行處理后，通過通信模塊發送至遠程服務器端執行渲染任務；

所述任務調度模塊：用于將客戶端發來的指令數據進行相應處理得到指令流，并分配給各個微GPU模塊；

所述微GPU模塊：用于完成指令流的渲染任務，并回傳至客戶端。

2.根據權利要求1所述的基于API重定向技術的GPU虛擬化實現系統，其特征在于，所述指令代理模塊在客戶端被設置為環境變量，從而以共享庫的形式，在客戶端的圖像應用程序啟動時加載指令代理模塊的OpenGL實現；和/或

所述指令代理模塊對指令進行壓縮處理；相應地，所述任務調度模塊用于對壓縮后的指令進行解壓縮并分發至各個微GPU模塊。

3.根據權利要求2所述的基于API重定向技術的GPU虛擬化實現系統，其特征在于，所述指令代理模塊對指令進行壓縮處理，采用如下任意一種或任意多種方法：

-采用差量傳輸方式，在傳輸前比較相鄰的兩幀，壓縮指令的傳輸量；

-采用浮點數轉換方式，壓縮頂點數據；

和/或

所述任務調度模塊將指令分發至各個微GPU模塊的方法為：

每一個微GPU模塊將資源使用情況及時反饋給任務調度模塊，任務調度模塊根據微GPU模塊的資源使用情況，使用調度算法進行任務分發；所述調度算法采用多層反饋調度算法，借由微GPU模塊反饋的歷史請求的資源使用情況判斷當前任務請求的分發目標；當接受到新的任務請求時，任務調度模塊判斷是否接收過該應用的任務請求；若否，則將該任務隨機分配給任意微GPU模塊，并在運行過程中監控該任務的資源使用情況，判斷該任務的資源需求特點并記錄；若是，則根據該任務的資源需求特點分配給相應資源最充裕的微GPU模塊。

4.根據權利要求3所述的基于API重定向技術的GPU虛擬化實現系統，其特征在于，所述指令代理模塊還對指令流中的一部分頂點數據進行聚合簡化處理；其中，所述頂點數據為指令流傳輸中涉及到的一種指令數據，用于表述幾何對象的頂點信息。

5.根據權利要求1所述的基于API重定向技術的GPU虛擬化實現系統，其特征在于，所述微GPU模塊完成指令流的渲染任務的方法為：

每一個所述微GPU模塊通過設置于遠程服務器端的GPU驅動模塊，將接收到的指令流發送至裝載于遠程服務器端的GPU設備進行相應的渲染工作；

每一個微GPU模塊完成的渲染結果存儲于設置于GPU設備的GPU內存幀緩存中。

6.根據權利要求5所述的基于API重定向技術的GPU虛擬化實現系統，其特征在于，所述GPU內存幀緩存存儲對渲染結果采用像素數據的形式進行存儲；所述任務調度模塊將GPU內存幀緩存存儲的渲染結果編碼為視頻流后回傳至客戶端，并在客戶端解碼得到渲染結果后存儲在客戶端內存的幀緩存中。

7.根據權利要求1所述的基于API重定向技術的GPU虛擬化實現系統，其特征在于，所述微GPU程序單元根據接收到的指令流在遠程服務器端的緩存情況進行相應處理：如果緩存命中，微GPU程序單元直接從緩存區域中提取需要的指令流數據進行渲染工作；否則，微GPU程序單元等待指令流傳輸完成后再借由遠程服務器端裝載的GPU設備，使用原生的OpenGL指令流完成渲染工作。

8.根據權利要求1至7中任一項所述的基于API重定向技術的GPU虛擬化實現系統，其特征在于，所述客戶端和遠程服務器端之間采用如下任意一種或任意多種通信方式：

-共享內存通信方式；

-TCP協議通信方式；

-RDMA通信方式。