[發明專利]任務處理方法及設備

在審

• 申請號: 202110706655.0
• 申請日: 2021-06-24
• 公開（公告）號: CN113448704A
• 公開（公告）日: 2021-09-28
• 發明（設計）人: 羅佳;張忠立
• 申請（專利權）人: 展訊通信（上海）有限公司
• 主分類號: G06F9/48
• 分類號: G06F9/48;G06K9/00
• 代理公司: 北京同立鈞成知識產權代理有限公司 11205
• 代理人: 朱穎;臧建明

本申請提供一種任務處理方法及設備。該方法包括：接收AI任務；獲取所述AI任務對應的負載隊列；根據所述AI任務的優先級，確定所述AI任務和正在處理的其他AI任務的執行順序；根據所述執行順序和所述負載隊列，獲取待處理負載隊列，所述待處理負載隊列包括不同AI任務對應的負載；處理所述待處理負載隊列中的負載。和現有技術中，接收到新任務后，先將之前任務處理完才處理新任務的方式相比，本實施例的方案可將新任務和之前任務并行處理，提升了新任務的響應速度。

技術領域

本申請涉及人工智能領域，尤其涉及一種任務處理方法及設備。

背景技術

人工智能(Artificial?Intelligence，簡稱AI)技術在人們的日常生活中已非常普遍。比如：人臉識別、智能導航、無人機配送、智能機器人等。但在有些場景下，比如無人駕駛場景下，同時存在語音識別、路面識別、人臉識別多種需求。即AI計算框架可能會接收到AI應用層發送的多個?AI任務，比如接收到語音識別應用發送的語音識別任務以及路面識別應用發送的路面識別任務。

現有技術中，AI計算框架接收到多個AI任務后，直接按照接收時間的先后順序處理該多個AI任務。比如：先接收到語音識別任務后接收到路面識別任務，則先處理語音識別任務，再處理路面識別任務。然而，路面識別對響應時間有著嚴格要求，而語音識別對響應時間的要求相對較低。通常端側的計算資源有限，當計算資源被其他AI任務占用，會導致低時延需求的AI任務，比如上述路面識別任務，無法得到及時響應。

發明內容

本申請提供一種任務處理方法及設備，用于解決現有技術中低時延需求的AI任務無法得到及時響應的問題。

第一方面，本申請提供一種任務處理方法，包括：接收AI任務；獲取所述AI任務對應的負載隊列；根據所述AI任務的優先級，確定所述AI任務和正在處理的其他AI任務的執行順序；根據所述執行順序和所述負載隊列，獲取待處理負載隊列，所述待處理負載隊列包括不同AI任務對應的負載；處理所述待處理負載隊列中的負載。

可選的，獲取所述AI任務對應的負載隊列，包括：對所述AI任務對應的模型進行編譯，得到至少一個負載；根據所述至少一個負載，獲取所述負載隊列。

可選的，根據所述AI任務的優先級，確定所述AI任務和正在處理的其他AI任務的執行順序，包括：比較所述AI任務的優先級和所述正在處理的其他AI任務的優先級，確定所述執行順序。

可選的，所述根據所述執行順序和所述負載隊列，獲取待處理負載隊列，包括：根據所述執行順序，將所述負載隊列插入原始負載矩陣，得到目標負載矩陣，所述原始負載矩陣包括所述正在處理的其他AI任務對應的負載隊列，并且所述正在處理的其他AI任務對應的負載隊列按照所述正在處理的其他?AI任務的執行順序逐行排列；根據所述目標負載矩陣，獲取待處理負載隊列。

可選的，所述根據所述目標負載矩陣，獲取待處理負載隊列，包括：從所述目標負載矩陣中逐行按照負載依賴關系提取待處理負載，得到每行負載隊列對應的待處理負載；根據每行負載隊列對應的待處理負載，獲取所述待處理負載隊列。

可選的，所述處理所述待處理負載隊列中的負載，包括：根據所述待處理負載隊列中的負載和計算單元的對應關系，將所述負載發送給對應的計算單元進行處理。

第二方面，本申請提供一種任務處理裝置，包括：接收模塊，用于接收?AI任務；調度模塊，用于獲取所述AI任務對應的負載隊列；根據所述AI任務的優先級，確定所述AI任務和正在處理的其他AI任務的執行順序；根據所述執行順序和所述負載隊列，獲取待處理負載隊列，所述待處理負載隊列包括不同AI任務對應的負載；處理所述待處理負載隊列中的負載。

第三方面，本申請提供一種計算機可讀存儲介質，其上存儲有計算機程序，其特征在于，所述計算機程序被處理器執行時實現第一方面提供的方法。