[發明專利]計算裝置、數據處理方法及相關產品

在審

• 申請號: 202111131275.5
• 申請日: 2021-09-26
• 公開（公告）號: CN113837922A
• 公開（公告）日: 2021-12-24
• 發明（設計）人: 不公告發明人
• 申請（專利權）人: 安徽寒武紀信息科技有限公司
• 主分類號: G06T1/20
• 分類號: G06T1/20;G06N3/08;G06N3/063;G06N3/04
• 代理公司: 北京維昊知識產權代理事務所(普通合伙) 11804
• 代理人: 陳姍姍

1.一種計算裝置，包括主設備和從設備，所述從設備包括一個或多個處理核，其中：

所述主設備配置用于發射第一任務，所述第一任務用于針對輸入特征數據和卷積核數據執行卷積運算；以及

所述從設備配置用于根據所述第一任務的拆分策略，調度相應數量的所述處理核執行所述第一任務，其中在每核次處理中針對所述輸入特征數據中的一部分執行所述卷積運算。

2.根據權利要求1所述的計算裝置，其中所述主設備進一步配置用于確定所述第一任務的拆分策略，所述拆分策略包括：完成所述第一任務所需處理核的核次數，以及每一核次對應要處理的輸入特征塊。

3.根據權利要求2所述的計算裝置，其中所述主設備進一步配置用于：

根據所述輸入特征數據的總批次數B和可調度的所述處理核的總核數Ncore，確定處理輪數L，以及各輪處理的批次數Bi，i＝1,…,L，其中L＝ceil(B/Ncore)，其中n＝L-1，BremNcore。

4.根據權利要求3所述的計算裝置，其中所述主設備進一步配置用于：

將每連續的n個批次的輸入特征數據分配給一個處理核進行處理。

5.根據權利要求3-4任一所述的計算裝置，其中所述從設備包括多個計算簇，每個計算簇包括多個所述處理核，所述主設備進一步配置用于：

將Brem個批次的輸入特征數據分配在所述多個計算簇上處理，其中Nc個計算簇共同處理同一個批次的輸入特征數據。

6.根據權利要求5所述的計算裝置，其中所述主設備進一步配置用于：

將所述輸入特征數據的卷積運算所對應的輸出特征數據在第一維度上平均拆分成Nc個形狀相同的輸出特征塊；以及

根據計算每個輸出特征塊所需的輸入特征區域，將所述輸入特征數據在所述第一維度上對應地拆分出Nc個輸入特征塊，分別分配給所述Nc個計算簇。

7.根據權利要求2-6任一所述的計算裝置，所述從設備還包括一個或多個存儲核，其中一個存儲核為一個或多個處理核提供輸入特征數據，所述主設備進一步配置用于按如下在多個核次上分配存儲核上的輸入特征塊：

根據所述輸入特征塊對應的輸出特征塊的所述第一維度的大小wo，確定所述輸入特征塊在所述多個核次上的拆分方式。

8.根據權利要求7所述的計算裝置，其中所述主設備進一步配置用于按如下確定所述輸入特征塊在Ncc個核次上的拆分方式：

當所述wo≤單核次處理量S時，根據所述對應的輸出特征塊的第二維度的大小ho，在第二維度上拆分成Ncc個輸出特征子塊；以及

根據計算每個輸出特征子塊所需的輸入特征區域，將所述輸入特征塊在所述第二維度上對應地拆分出Ncc個輸入特征子塊，分別分配給所述Ncc個核次。

9.根據權利要求7-8任一所述的計算裝置，其中所述主設備進一步配置用于按如下確定所述輸入特征塊在Ncc個核次上的拆分方式：

當單核次處理量時，根據所述對應的輸出特征塊的第二維度的大小ho和所述wo，在第一和第二維度上聯合地拆分成Ncc個輸出特征子塊，其中第一維度拆分成Ws份，第二維度拆分成Wh份，Ws*Wh＝Ncc，每個輸出特征子塊的第一維度大小不超過S；以及

根據計算每個輸出特征子塊所需的輸入特征區域，將所述輸入特征塊在所述第一和第二維度上對應地拆分出Ncc個輸入特征子塊，分別分配給所述Ncc個核次。

10.根據權利要求7-9任一所述的計算裝置，其中所述主設備進一步配置用于按如下規則確定所述輸入特征塊在Ncc個核次上的拆分方式：

當時，根據所述wo，在第一維度上拆分成m*Ncc個輸出特征子塊，每個輸出特征子塊的第一維度大小不超過S；以及

根據計算每個輸出特征子塊所需的輸入特征區域，將所述輸入特征塊在第一維度上對應地拆分出m*Ncc個輸入特征子塊，依次分配給所述Ncc個核次。