[發明專利]一種數據調度裝置、方法和加速處理芯片

有效

• 申請號: 202011398223.X
• 申請日: 2020-12-03
• 公開（公告）號: CN112559404B
• 公開（公告）日: 2023-02-24
• 發明（設計）人: 王江;孫華錦;李樹青
• 申請（專利權）人: 山東云海國創云計算裝備產業創新中心有限公司
• 主分類號: G06F13/28
• 分類號: G06F13/28;G06F5/06;G06F3/06
• 代理公司: 北京集佳知識產權代理有限公司 11227
• 代理人: 王云曉

本申請提供一種數據調度裝置、方法和加速處理芯片，數據調度裝置通過片載的輸入緩沖器和輸入緩沖器替代了本地DDR緩存，在移除本地DDR之后可以降低加速板卡的系統復雜度和硬件成本，可以充分釋放PCIe的帶寬性能；在有限的片上緩存資源的約束下，進行去中心化調度，將調度控制分解為請求分解模塊、配置接口模塊、輸入調度模塊、輸出調度模塊、狀態接口模塊和響應合成模塊，各個模塊異步工作，順序處理任務隊列中的任務，從而實現任務間的流水處理，有效地保證了任務請求之間背靠背的無縫鏈接，增加了數據處理單元的利用率，從而提高了整體系統的數據吞吐量。

技術領域

本申請涉及數據調度技術領域，特別涉及一種數據調度裝置、方法和加速處理芯片。

背景技術

隨著大數據、AI(Artificial Intelligence，人工智能)、5G等新興產業的迅速發展，各式應用場景層出不群，存儲計算系統當中的通用CPU處理壓力持續增大，再加上通用CPU(Central Processing Unit，中央處理器)對某些計算任務的執行效率不高，這都不斷地推高了存儲計算系統中CPU的占用率，CPU處理能力的瓶頸最終會限制存儲計算系統整體性能的提升與擴展。

相關技術中采用調度控制中心進行數據的調度，請參考圖1，圖1為相關技術的數據處理業務的流程示意圖，其中，在加速處理芯片內需要一個統一的調度控制中心，它的具體實現可以是專用硬件電路或者通用微控制器輔以相應軟件程序，按照數據業務處理流程，順序執行如下調度步驟：

1.調度控制中心首先需要通過PCIe(Peripheral component interconnectexpress，外設高速互聯)接口從主機側DDR((Double Data Rate，雙倍速率)內取回待處理數據塊的配置信息；2.在調度控制中心拿到配置信息后，需要對其進行解析，并和數據處理單元進行握，若其處于空閑狀態，則寫入相應配置后啟動數據處理操作；于此同時，還需要根據數據輸入緩沖的狀態(填充深度)不斷地從主機側DDR中調入數據，這個過程因數據塊大小的不同又耗時若干個us；3.在輸出結果數據的方向上，調度控制中心也需要根據數據輸出緩沖的狀態(填充深度)不斷地調出數據到主機側DDR中，并在數據處理單元處理結束后，讀取最終的狀態信息(包括處理后數據塊的大小和錯誤碼等)；4.最后，調度控制中心將該數據塊的結果信息封裝，并通過PCIe總線傳輸到主機側DDR中，通知主機拿取處理后的數據結果，傳輸上百個字節的反饋信息耗時約1us左右。

但是面對每秒數十萬次的IO請求時，請參考圖2，圖2為相關技術對應的任務處理流水示意圖，都無法實時地照顧到每個請求，并最終實現各項硬件資源之間的無縫銜接只能數據塊依次處理，系統的數據吞吐率低，數據處理單元的利用率低。

因此，如何提供一種解決上述技術問題的方案是本領域技術人員目前需要解決的問題。

發明內容

本申請的目的是提供一種數據調度裝置、方法和加速處理芯片，增加了數據處理單元的利用率，從而提高了整體系統的數據吞吐量。其具體方案如下：

本申請提供了一種數據調度裝置，包括：

請求分解模塊，用于將主機DDR發送的數據塊的請求配置信息進行分解，得到多個子配置信息，并將所述子配置信息寫入配置FIFO、同步FIFO1、同步FIFO2、同步FIFO3中；

配置接口模塊，用于根據所述配置FIFO對數據處理單元進行配置；

輸入調度模塊，用于當輸入緩沖器還存在剩余空間時，通過配置PCIe DMA從所述主機DDR按照所述同步FIFO1取回待處理數據塊至所述輸入緩沖器，以使所述數據處理單元的輸入數據不斷流；

輸出調度模塊，用于通過配置PCIe DMA將所述數據處理單元處理待處理數據塊得到的結果數據按照所述同步FIFO2從所述輸出緩沖器傳輸至所述主機DDR，以使所述數據處理單元不被輸出數據流反壓；