[發明專利]用于執行GPU中的控制任務的方法、裝置及GPU

在審

• 申請號: 202010772890.3
• 申請日: 2020-08-04
• 公開（公告）號: CN111782408A
• 公開（公告）日: 2020-10-16
• 發明（設計）人: 趙軍平
• 申請（專利權）人: 支付寶（杭州）信息技術有限公司
• 主分類號: G06F9/50
• 分類號: G06F9/50;G06T1/20
• 代理公司: 北京永新同創知識產權代理有限公司 11376
• 代理人: 林錦輝;劉景峰

本說明書實施例提供了一種用于執行GPU中的控制任務的方法及裝置。GPU中的隊列、控制任務分別被抽象封裝成隊列API接口、主任務API接口和從任務API接口，針對第一功能任務，第一主任務API接口分別與第一隊列API接口和各個第一從任務API接口關聯，第一主任務API接口針對第一功能任務執行查詢操作以確定第一功能任務的任務狀態；并在查詢到第一功能任務完成且當前同步點小于第一功能任務的第一序號時，將同步點更新為第一序號；以及各個第一從任務API接口將當前同步點與第一控制任務相關序號進行比較，以確定第一功能任務的任務狀態。

技術領域

本說明書實施例涉及計算機技術領域，具體地，涉及一種用于執行GPU中的控制任務的方法、裝置及GPU。

背景技術

AI(Artificial Intelligence，人工智能)，特別是深度學習(Deep Learning，DL)，目前已經廣泛用于支付(人臉)、定損(圖片識別)、交互與客服(語音識別、內容過濾)等多種場景，取得了顯著效果。典型DL任務需要強大的算力支撐，因此當前絕大多數任務都運行在GPU等加速設備之上，GPU(Graphics Processing Unit，圖形處理器)是一種高性能計算加速設備，目前廣泛用于AI、深度學習的訓練和在線服務。

GPU具有高速并行計算的特點，能夠對功能任務進行并行處理。GPU在處理各個功能任務過程中，針對一些功能任務，會存在關注該功能任務的至少一個控制任務，該至少一個控制任務被插入至隊列中，每個控制任務各自采用持續輪詢的方式來查詢關注的功能任務的任務狀態，直至該功能任務完成。

發明內容

鑒于上述，本說明書實施例提供了一種用于執行GPU中的控制任務的方法、裝置及GPU。GPU中的隊列、控制任務分別被抽象封裝成隊列API接口、主任務API接口和從任務API接口，針對第一功能任務，第一主任務API接口分別與第一隊列API接口和各個第一從任務API接口關聯，第一主任務API接口針對第一功能任務執行查詢操作，以確定第一功能任務的任務狀態并更新隊列的同步點。各個第一從任務API接口將當前同步點與第一控制任務相關序號進行比較以確定第一功能任務的任務狀態。這樣，針對關注第一功能任務的一組控制任務，只需第一主任務API接口執行查詢操作，而其他的各個第一從任務API接口執行比較操作即可確定出第一功能任務的狀態。避免了每個控制任務都需要執行查詢操作，減少了執行查詢操作所需的資源開銷，從而節省了GPU資源。

根據本說明書實施例的一個方面，提供了一種用于執行GPU中的控制任務的方法，其中，所述GPU對多個隊列并行處理，各個隊列中具有序號的隊列元素包括功能任務和控制任務，每個隊列被抽象封裝成用于維護隊列數據的隊列API接口，隊列中關注同一功能任務的一組控制任務被抽象封裝成一組任務API接口，隊列API接口和各組任務API接口存儲在所述GPU的框架層連接的動態鏈接庫中；針對一個隊列，隊列API接口與各組任務API接口關聯，每組任務API接口包括一個主任務API接口和至少一個從任務API接口，從任務API接口與對應的一組控制任務中的控制任務一一對應，每個控制任務被抽象封裝成一個用于維護控制任務數據的從任務API接口；針對每組任務API接口，主任務API接口與各個從任務API接口關聯，隊列API接口包括用于指示對應隊列中最新完成的功能任務的同步點，主任務API接口包括關注功能任務序號，所述方法包括：響應于第一隊列中的第一控制任務的執行指令，利用所述第一控制任務對應的第一組任務API接口中的第一主任務API接口來針對所述第一控制任務關注的第一功能任務執行查詢操作，以確定所述第一功能任務的任務狀態；并在查詢到所述第一功能任務的任務狀態是完成、且第一隊列API接口中的當前同步點小于所述第一功能任務的第一序號時，將同步點更新為所述第一序號；以及利用所述第一組任務API接口中的各個第一從任務API接口將獲得的當前同步點與第一控制任務相關序號進行比較，以確定所述第一功能任務的任務狀態。

可選地，在上述方面的一個示例中，所述第一控制任務包括查詢任務或同步任務。