[發明專利]實現和執行神經網絡的方法及計算機可讀介質

在審

• 申請號: 201710333745.3
• 申請日: 2017-05-12
• 公開（公告）號: CN107392305A
• 公開（公告）日: 2017-11-24
• 發明（設計）人: J.布拉澤斯;冀正平;張強
• 申請（專利權）人: 三星電子株式會社
• 主分類號: G06N3/04
• 分類號: G06N3/04
• 代理公司: 北京市柳沈律師事務所11105
• 代理人: 邵亞麗

1.一種實現神經網絡的方法，包括：

接收用于經訓練的神經網絡的數據，包括特征圖和權重；

重排序經訓練的神經網絡的特征圖和/或權重，以生成經訓練的神經網絡的重排序的版本；以及

在執行重排序之后，壓縮經訓練的神經網絡的重排序的版本的權重。

2.根據權利要求1所述的方法，其中所述重排序包括重排序神經網絡的特征圖以重排序神經網絡的權重。

3.根據權利要求1所述的方法，其中所述重排序包括重排序神經網絡的權重，以具有被選擇為與所接收的數據的權重相比改進壓縮效率的結構。

4.根據權利要求1所述的方法，其中所述重排序包括基于負載均衡考慮重排序權重中的至少一些以分布權重。

5.根據權利要求1所述的方法，其中所述重排序包括按權重值對至少一些權重進行分組。

6.根據權利要求5所述的方法，其中至少一些零值權重被分組。

7.根據權利要求1所述的方法，還包括在重排序之前通過將第一數量的不同權重值內的權重映射到第二數量的不同權重值來聚類權重，其中第二數量小于第一數量。

8.根據權利要求1所述的方法，還包括在壓縮之前將重排序的輸入和輸出節點的權重的索引重排序。

9.根據權利要求1所述的方法，其中所述經訓練的神經網絡的重排序的版本是經訓練的神經網絡的等效版本。

10.根據權利要求1所述的方法，其中所述重排序包括生成用于神經網絡的重映射表，以實現特征圖的重映射來實現經訓練的神經網絡的重排序的版本。

11.一種執行神經網絡的方法，包括：

提供神經網絡的模型，其中所述模型對應于通過重排序經訓練的神經網絡的特征圖和/或權重而生成的經訓練的神經網絡的重排序的版本；以及

執行神經網絡的模型。

12.根據權利要求11所述的方法，其中執行所述模型包括跳過具有全零的權重的組的執行。

13.根據權利要求11所述的方法，其中執行所述模型包括在卷積模式中跳過分布的零值權重的執行。

14.根據權利要求11所述的方法，其中所述重排序的版本包括基于用于在一組并行處理輸入單元上執行的負載平衡條件對權重的排序。

15.根據權利要求11所述的方法，其中所述神經網絡的模型在一組并行處理輸入單元上執行，并且所述重排序的版本具有基于負載平衡條件分布的非零權重值，使得對于至少一個卷積層，每個并行處理單元在多個周期中以每個周期大約相同的非零權重平均數來操作。

16.根據權利要求11所述的方法，其中所述模型包括用于神經網絡的重映射表，以實現特征圖的重映射來實現經訓練的神經網絡的重排序的版本。

17.根據權利要求16所述的方法，其中所述重映射表在執行期間被硬件利用以執行特征圖的重排序。

18.根據權利要求11所述的方法，其中所述重排序的版本是與經訓練的神經網絡等效的網絡或經訓練的神經網絡的優化的版本。

19.根據權利要求11所述的方法，其中所述神經網絡的權重以壓縮格式存儲，并且所述方法還包括：

讀取壓縮的權重；

解壓縮所述壓縮的權重；

跳過零值權重的執行，包括以下中的至少一個：跳過對于全連接層所有權重為零的權重的任何聚類、或者跳過對于卷積層的分散的零值權重的執行；以及

應用剩余的解壓縮的權重用于神經網絡執行。

20.一種計算機可讀介質，包括存儲指令的存儲介質，當在處理器上執行所述指令時實現方法，所述方法包括：

接收用于經訓練的神經網絡的數據，包括特征圖和權重；

重排序經訓練的神經網絡的特征圖和/或權重，以生成經訓練的神經網絡的重排序的版本；以及

在執行重排序之后，壓縮經訓練的神經網絡的重排序的版本的權重。