[發明專利]一種任務調度方法、芯片以及電子設備

有效

• 申請號: 202111118002.7
• 申請日: 2021-09-24
• 公開（公告）號: CN113568731B
• 公開（公告）日: 2021-12-28
• 發明（設計）人: 李樹青;王江;孫華錦
• 申請（專利權）人: 蘇州浪潮智能科技有限公司
• 主分類號: G06F9/48
• 分類號: G06F9/48;G06F9/50
• 代理公司: 北京連和連知識產權代理有限公司 11278
• 代理人: 劉小峰;宋薇薇

本發明公開了一種任務調度方法，包括以下步驟：響應于接收到下發的任務，利用解析器將任務分成多個子任務并生成子任務列表，其中子任務列表中記錄每一個子任務對應的任務參數且任務參數包括下一個子任務的開始相位；利用調度器將子任務列表中待處理子任務的任務參數發送給相應的子引擎；相應的子引擎根據接收到的任務參數執行對應的待處理子任務；響應于相應的子引擎執行對應的待處理子任務時的工作相位與接收到的任務參數中的開始相位相同，向調度器發出通知；響應于調度器檢測到通知，返回利用調度器將子任務列表中待處理子任務的任務參數發送給相應的子引擎的步驟。通過上述技術方案實現了具有先后關系的子任務在執行時間上部分或者全部重疊。

技術領域

本發明涉及加速架構領域，具體涉及一種任務調度方法、芯片以及電子設備。

背景技術

隨著大數據、AI、5G等新興產業的迅速發展，產生的海量數據將呈指數級增長，數據處理對算力的需求日益增加。在摩爾定律和登納德縮放定律的共同作用下，引領芯片行業30年的飛速發展，隨著摩爾定律放緩，登納德縮放定律失效，通用CPU的算力提升已經無法滿足當前數據中心對算力增長的需求。基于領域定制（DSA）的異構計算，采用各種加速器來完成對特點業務的加速，從而達到提升系統算力和降低成本的目的，最典型的就是深度學習加速器，不管是采用GPU、FPGA還是各類NPU，相對于單純CPU的解決方案，可以將系統的算力提升數倍。

領域定制的硬件加速器針對某一業務領域設計，業務領域往往包含多種用戶場景，在每種場景下，硬件加速器需要實現不同功能，但這些功能往往具有相似或者公共的特性。因此，硬件加速器在設計時，一般將需要實現的功能進行拆分，將各個場景下的業務流程盡可能的變成各個獨立的子流程的組合，再針對每一個子流程設計專用的硬件加速模塊，稱為子引擎。

子引擎往往在不同的用戶場景間復用，即多種用戶場景都會使用某子引擎，不同的是子引擎的任務參數、子引擎在業務流程中的位置和組成該流程的其他子引擎可能不同。

例如，一個存儲服務器中的RAID加速器，可實現RAID0/1/5/6等多種場景，將這些場景進行子流程的拆分可以得到DMA模塊、存儲頁分配/回收模塊、磁盤讀/寫模塊、異或計算模塊、有限域計算模塊等功能模塊。對于RAID0/1，需要用到上述子引擎1~3，且這兩種場景具有不同的子引擎的任務參數，對于RAID5，需要用到子引擎1~4，對于RAID6，需要用到子引擎1~5。

硬件加速器通過在運行時組合不同的子引擎來實現不同的用戶場景的功能，對于上述每一種場景的讀/寫子場景，子引擎在數據流中的順序也有區別。

例如，對于RAID0的讀操作，硬件加速器首先調度存儲頁分配模塊分配一塊數據緩存空間；然后調度磁盤讀/寫模塊從磁盤中讀取數據放入上述緩存空間，并在緩存空間中完成RAID0的數據組織和排序；然后，調用DMA模塊將數據從緩存空間搬移到主機端內存中；最后，調用存儲頁回收模塊對緩存空間進行回收。而對于RAID0的寫操作，則需要在調用存儲頁分配模塊后，先調用DMA模塊從主機端將數據搬移到緩存空間并完成數據的組織和排序，然后再調用磁盤讀/寫模塊將緩存空間的數據依次寫入磁盤，最后同樣需要進行緩存空間的回收。因此，對于RAID0的讀寫場景，都使用子引擎1~3，但是讀的調用順序是2-3-1-2，而寫的順序是2-1-3-2.

硬件加速器對子引擎的調度使用一種被稱為解析器和一種被稱為調度器的模塊實現，解析器和調度器的實現方式有多種，可以采用軟件也可以采用硬件實現，以下給出一種實現范例。

解析器根據用戶場景對來自主機端的命令進行解析，將它分解為若干個子任務，每一個子任務對應一個子引擎，并按順序將這些子任務組織成列表。調度器用來將子任務派發到子引擎，它讀取任務列表中的一個子任務條目，然后根據該子任務條目的類型，將它發送給對應的子引擎。

如圖1所示，現有的調度器與子引擎的交互方式一般按以下步驟進行：

1、調度器將子任務分發給子引擎；