[發明專利]一種卷積神經網絡的數據傳輸方法和裝置

在審

• 申請號: 202011104673.3
• 申請日: 2020-10-15
• 公開（公告）號: CN112261023A
• 公開（公告）日: 2021-01-22
• 發明（設計）人: 羅建剛
• 申請（專利權）人: 蘇州浪潮智能科技有限公司
• 主分類號: H04L29/06
• 分類號: H04L29/06;H04L12/801;G06N3/063;G06N3/04
• 代理公司: 北京連和連知識產權代理有限公司 11278
• 代理人: 李紅蕭;張騰

1.一種卷積神經網絡的數據傳輸方法，其特征在于，包括基于數據劃分方式將待傳輸的數據劃分為多個數組，并且針對每個數組均響應于其上一數組開始聚合而依次執行以下步驟：

調用計算資源在源處理單元對所述數組執行稀疏化壓縮以生成壓縮數組；

調用通信資源對所述壓縮數組執行基于傳輸方式的規約；

調用通信資源對所述壓縮數組執行基于傳輸方式的聚合；

調用計算資源在目標處理單元對所述壓縮數組執行解壓縮以提取所述數組。

2.根據權利要求1所述的方法，其特征在于，對所述數組執行稀疏化壓縮以生成壓縮數組包括：

從所述數組中提取每個元素的值和位置，形成數對；

將值為零的元素數對刪除；

將剩余的元素數對組合形成所述壓縮數組。

3.根據權利要求2所述的方法，其特征在于，還包括：在將值為零的元素數對刪除后，還基于預定的過濾閾值而額外地刪除值小于所述過濾閾值的元素數對。

4.根據權利要求1所述的方法，其特征在于，所述數據劃分方式和所述傳輸方式均基于處理單元拓撲而決定。

5.根據權利要求4所述的方法，其特征在于，所述處理單元拓撲基于卷積神經網絡使用的處理單元的數量和架構而確定。

6.根據權利要求5所述的方法，其特征在于，所述數據劃分方式為基于處理單元數量的平均分配；所述傳輸方式為環形傳輸或環形全規約傳輸；所述處理單元拓撲為環形拓撲。

7.根據權利要求1所述的方法，其特征在于，還包括：在執行基于傳輸方式的聚合的同時，還開始調用計算資源對其下一數組執行稀疏化壓縮。

8.根據權利要求1所述的方法，其特征在于，還包括：為卷積神經網絡預先建立傳輸接口，并基于所述傳輸接口對所述壓縮數組執行基于傳輸方式的規約和聚合。

9.一種卷積神經網絡的數據傳輸裝置，其特征在于，包括：

處理器；和

存儲器，存儲有處理器可運行的程序代碼，所述程序代碼在被運行時基于數據劃分方式將待傳輸的數據劃分為多個數組，并且針對每個數組均響應于其上一數組開始聚合而依次執行以下步驟：

調用計算資源在源處理單元對所述數組執行稀疏化壓縮以生成壓縮數組；

調用通信資源對所述壓縮數組執行基于傳輸方式的規約；

調用通信資源對所述壓縮數組執行基于傳輸方式的聚合；

調用計算資源在目標處理單元對所述壓縮數組執行解壓縮以提取所述數組。

10.根據權利要求9所述的裝置，其特征在于，所述數據劃分方式和所述傳輸方式均基于處理單元拓撲而決定；所述處理單元拓撲基于卷積神經網絡使用的處理單元的數量和架構而確定。