[發(fā)明專利]任務處理方法、裝置及設備

在審

• 申請?zhí)枺?/td>: 202010079161.X
• 申請日: 2020-02-03
• 公開（公告）號: CN113204413A
• 公開（公告）日: 2021-08-03
• 發(fā)明（設計）人: 范鵬飛;金玲玲;周軍蕊
• 申請（專利權）人: 阿里巴巴集團控股有限公司
• 主分類號: G06F9/48
• 分類號: G06F9/48;G06F9/54
• 代理公司: 北京博思佳知識產權代理有限公司 11415
• 代理人: 周嗣勇

本申請?zhí)峁┮环N任務處理方法、裝置及設備，該方法包括：接收客戶端發(fā)送的加速處理請求；對加速處理請求進行處理，得到加速處理參數；根據加速處理參數生成待處理任務；將所述待處理任務發(fā)送給加速器，以使加速器處理所述待處理任務。通過本申請的技術方案，能夠提高每個加速器的利用率。

技術領域

本申請涉及互聯(lián)網技術領域，尤其是涉及一種任務處理方法、裝置及設備。

背景技術

隨著AI(Artificial Intelligence，人工智能)的快速發(fā)展，AI加速器越來越多，技術更新越來越快，AI加速器在數據中心的使用量逐步增加。AI加速器也稱為AI芯片或計算卡，是專門用于處理人工智能應用中的大量計算任務的模塊，其它非計算任務仍由CPU(Central Processing Unit，中央處理器)負責。

在相關技術中，需要為每個用戶配置獨立的AI加速器，AI加速器只為該用戶的人工智能應用的計算任務進行處理，存在AI加速器的利用率較低等問題。

發(fā)明內容

本申請?zhí)峁┮环N任務處理方法，所述方法包括：

接收客戶端發(fā)送的加速處理請求；

對所述加速處理請求進行處理，得到加速處理參數；

根據所述加速處理參數生成待處理任務；

將所述待處理任務發(fā)送給加速器，以使所述加速器處理所述待處理任務。

本申請?zhí)峁┮环N任務處理方法，所述方法包括：

獲取應用程序的加速處理參數；

對所述加速處理參數進行封裝，得到加速處理請求；

將所述加速處理請求發(fā)送給服務端，以使所述服務端根據所述加速處理參數生成待處理任務，并將所述待處理任務發(fā)送給加速器進行處理。

本申請?zhí)峁┮环N任務處理方法，所述方法包括：

接收客戶端發(fā)送的加速處理請求；

確定所述加速處理請求是否為待處理隊列的目標加速處理請求，所述目標加速處理請求是待處理隊列中最后一個加速處理請求的下一個加速處理請求；

如果是，則將所述加速處理請求添加到所述待處理隊列；

基于所述待處理隊列中的加速處理請求的順序，對所述待處理隊列中的第一個加速處理請求進行處理，得到加速處理參數；

根據所述加速處理參數生成待處理任務；

將所述待處理任務發(fā)送給加速器，以使所述加速器處理所述待處理任務。

本申請?zhí)峁┮环N任務處理方法，所述方法包括：

獲取應用程序的加速處理參數；

在得到所述加速處理參數對應的任務處理結果之前，向所述應用程序返回預測任務處理結果，由所述應用程序根據所述預測任務處理結果執(zhí)行下一任務；

對所述加速處理參數進行封裝，得到加速處理請求；

將所述加速處理請求添加到待處理隊列；

基于所述待處理隊列中的加速處理請求的順序，依次將所述待處理隊列中的加速處理請求發(fā)送給服務端，以使所述服務端根據所述加速處理請求生成待處理任務，并將所述待處理任務發(fā)送給加速器進行處理。

本申請?zhí)峁┮环N任務處理方法，所述方法包括：

接收客戶端發(fā)送的人工智能AI處理請求；

對所述AI處理請求進行處理，得到AI處理參數；