[發明專利]一種單系統同時支持多GPU工作的方法及系統

在審

• 申請號: 202111373159.4
• 申請日: 2021-11-19
• 公開（公告）號: CN113808001A
• 公開（公告）日: 2021-12-17
• 發明（設計）人: 戴莉莉
• 申請（專利權）人: 南京芯馳半導體科技有限公司
• 主分類號: G06T1/20
• 分類號: G06T1/20;G06T1/60;G06F9/48;G06F9/50;G06F9/54
• 代理公司: 北京德崇智捷知識產權代理有限公司 11467
• 代理人: 王金雙

一種單系統同時支持多GPU工作的方法，包括以下步驟：GPU管理器接收圖形和計算任務，并查找相關上下文；將任務與查找到的所述上下文進行關聯，將任務發送到空閑GPU；GPU通過中斷通知GPU管理器返回任務結果。本發明的單系統同時支持多GPU工作的方法及系統，能夠在單個操作系統里同時使用多塊GPU，提高GPU的利用效率，提高系統算力。

技術領域

本發明涉及圖形學及并行計算技術領域，特別是涉及車載芯片上的單系統同時支持多GPU工作的方法及系統。

背景技術

隨著汽車電子的發展，在多媒體，連接，導航，儀表等需求的推動下，產生了越來越復雜的系統芯片（SOC），系統芯片集成了多個不同的GPU以支持更多的圖形和計算需求。但是當前的車載系統中，單個操作系統內通常只能使用一個的GPU，大大降低了系統的算力，怎樣同時在一個操作系統里使用多個GPU成為了亟待解決的問題。

在一個操作系統中同時使用芯片上的多個GPU資源，提高系統算力。

近些年來，在車載芯片中集成多個GPU成為了一種趨勢，怎樣同時使用多個GPU仍在探索。

在車載芯片中，多數采用硬隔離的方式，芯片中的GPU被分配到不同的操作系統使用。在只運行一個操作系統的時候，只有一個GPU在使用中，其他GPU不能得到充分的利用。在電腦領域，系統中也可以集成多塊GPU,但是需要在使用時，指定一塊GPU，不能同時使用。

發明內容

為了解決現有技術存在的不足，本發明的目的在于提供一種單系統同時支持多GPU工作的方法及系統，在單個操作系統里同時使用多塊GPU，提高GPU的利用效率，提高系統算力。

為實現上述目的，本發明提供的一種單系統同時支持多GPU工作的方法，包括以下步驟：

GPU管理器接收圖形和計算任務，并查找相關上下文；

將任務與查找到的所述上下文進行關聯，將任務發送到空閑GPU；

GPU通過中斷通知GPU管理器返回任務結果。

進一步地，所述上下文，包括，存儲系統為任務分配的內存、GPU的狀態設置。

進一步地，所述GPU管理器接收圖形和計算任務，并查找相關上下文的步驟，還包括，

GPU管理器根據接收的任務信息查找是否存在相關上下文；

若不存在，為所述任務創建上下文，并分配相關資源；

若存在，則使用已有的上下文。

進一步地，所述將任務與查找到的所述上下文進行關聯，將任務發送到空閑GPU的步驟，包括，

將任務與所述上下文關聯；

查找是否存在空閑的GPU，若不存在將任務放入等待隊列，等待GPU空閑；

若存在空閑的GPU，則根據上下文設置GPU的運行環境，并發送任務到GPU。

進一步地，還包括，

GPU管理器處理新的任務或進入空閑狀態。

更進一步地，所述GPU通過中斷通知GPU管理器返回任務結果的步驟，還包括，

GPU管理器為所述任務查找上下文信息，找到相應的應用程序并返回任務結果；

GPU管理器檢查等待隊列中是否存在等待任務；

若存在，則根據等待任務的上下文信息設置GPU狀態，并將所述任務發送到GPU執行；

若不存在，則GPU空閑，GPU管理器恢復到處理下一個任務的狀態。

為實現上述目的，本發明還提供一種車載芯片，包括如上文所述的單系統同時支持多GPU工作的系統。