[發明專利]一種單系統同時支持多GPU工作的方法及系統

在審

• 申請號: 202111373159.4
• 申請日: 2021-11-19
• 公開（公告）號: CN113808001A
• 公開（公告）日: 2021-12-17
• 發明（設計）人: 戴莉莉
• 申請（專利權）人: 南京芯馳半導體科技有限公司
• 主分類號: G06T1/20
• 分類號: G06T1/20;G06T1/60;G06F9/48;G06F9/50;G06F9/54
• 代理公司: 北京德崇智捷知識產權代理有限公司 11467
• 代理人: 王金雙

1.一種單系統同時支持多GPU工作的方法，其特征在于，包括以下步驟：

GPU管理器接收圖形和計算任務，并查找相關上下文；

將任務與查找到的所述上下文進行關聯，將任務發送到空閑GPU；

GPU通過中斷通知GPU管理器返回任務結果。

2.根據權利要求1所述的單系統同時支持多GPU工作的方法，其特征在于，所述上下文，包括，存儲系統為任務分配的內存、GPU的狀態設置。

3.根據權利要求1所述的單系統同時支持多GPU工作的方法，其特征在于，所述GPU管理器接收圖形和計算任務，并查找相關上下文的步驟，還包括，

GPU管理器根據接收的任務信息查找是否存在相關上下文；

若不存在，為所述任務創建上下文，并分配相關資源；

若存在，則使用已有的上下文。

4.根據權利要求1所述的單系統同時支持多GPU工作的方法，其特征在于，所述將任務與查找到的所述上下文進行關聯，將任務發送到空閑GPU的步驟，包括，

將任務與所述上下文關聯；

查找是否存在空閑的GPU，若不存在將任務放入等待隊列，等待GPU空閑；

若存在空閑的GPU，則根據上下文設置GPU的運行環境，并發送任務到GPU。

5.根據權利要求3所述的單系統同時支持多GPU工作的方法，其特征在于，還包括，

GPU管理器處理新的任務或進入空閑狀態。

6.根據權利要求1所述的單系統同時支持多GPU工作的方法，其特征在于，所述GPU通過中斷通知GPU管理器返回任務結果的步驟，還包括，

GPU管理器為所述任務查找上下文信息，找到相應的應用程序并返回任務結果；

GPU管理器檢查等待隊列中是否存在等待任務；

若存在，則根據等待任務的上下文信息設置GPU狀態，并將所述任務發送到GPU執行；

若不存在，則GPU空閑，GPU管理器恢復到處理下一個任務的狀態。

7.一種單系統同時支持多GPU工作的系統，其特征在于，包括GPU管理器，多個GPU和共享內存，其中，

所述GPU管理器接收圖形和計算任務并查找相關上下文將任務發送到空閑GPU；

所述GPU完成任務后通過中斷通知GPU管理器返回任務結果；

所述共享內存用于存儲多個GPU的數據。

8.一種車載芯片，其特征在于，包括如權利要求7所述的單系統同時支持多GPU工作的系統。

9.一種電子設備，其特征在于，包括存儲器和處理器，所述存儲器上儲存有在所述處理器上運行的計算機程序，所述處理器運行所述計算機程序時執行權利要求1至6任一項所述的單系統同時支持多GPU工作的方法的步驟。

10.一種計算機可讀存儲介質，其上存儲有計算機程序，其特征在于，所述計算機程序運行時執行權利要求1至6任一項所述的單系統同時支持多GPU工作的方法的步驟。