[發明專利]三值權重卷積網絡處理系統及方法

有效

• 申請號: 201710315337.5
• 申請日: 2017-05-08
• 公開（公告）號: CN107256424B
• 公開（公告）日: 2020-03-31
• 發明（設計）人: 韓銀和;許浩博;王穎
• 申請（專利權）人: 中國科學院計算技術研究所
• 主分類號: G06N3/08
• 分類號: G06N3/08
• 代理公司: 北京泛華偉業知識產權代理有限公司 11280
• 代理人: 王勇

1.一種三值權重卷積神經網絡的處理系統，其特征在于，包括：

至少一個存儲單元，用于存儲數據和指令；

至少一個控制單元，用于獲得保存在所述存儲單元的指令并發出控制信號；

至少一個計算單元，用于從所述存儲單元獲得卷積神經網絡中的一層的節點值和對應的三值權重值數據并通過執行加減操作獲得下一層的節點值；

其中，所述計算單元包括：卷積單元和累加器，所述卷積單元的輸入為所述卷積神經網絡中的一層的節點值和所述三值權重值數據，并且所述卷積單元的輸出連接至所述累加器；

所述卷積單元由數值取反單元、多路選擇單元和加法器構成，所述數值取反單元的輸入為所述卷積神經網絡中的一層的節點值，所述數值取反單元的輸出接入至所述多路選擇單元的一個輸入，所述多路選擇單元的另一個輸入為所述卷積神經網絡中的一層的節點值，所述多路選擇單元的控制輸入為所述三值權重值數據，所述多路選擇單元的輸出連接至所述加法器，所述加法器的輸出作為反饋接入所述加法器，并且將所述加法器的輸出作為所述卷積單元的輸出；

其中，所述三值權重值數據的取值為1或者0或者-1。

2.根據權利要求1所述的系統，其特征在于，在所述卷積單元工作時去除或不予考慮數值為0的權重值。

3.根據權利要求2所述的系統，其特征在于，所述三值權重值進一步重映射為函數r(z)：

其中，z表示輸入操作數，r(z)表示映射結果。

4.根據權利要求3所述的系統，其中，在所述卷積單元工作時去除或不予考慮數值為0的權重值包括：

針對數值為1或-1的權重值，設置與其相關聯的步進值，該步進值用于指示當前權重值與下一個數值為1或-1的權重值之間的距離。

5.一種對權利要求1-4中任意一項所述三值權重卷積神經網絡的處理系統的處理方法，其特征在于，包括：

獲得卷積神經網絡中的一層的節點值和對應的三值權重值數據；

將獲得的所述卷積神經網絡中的一層的節點值作為所述數值取反單元的輸入，將獲得的所述三值權重值數據作為所述多路選擇單元的控制輸入，基于所述計算單元的輸出獲得下一層的節點值。

6.根據權利要求5所述的處理方法，其中，所述三值權重值為1，0和-1，其中，在卷積時去除或不予考慮數值為0的權重值。

7.根據權利要求6所述的處理方法，其中，通過執行加減操作進行卷積來獲得下一層的節點值包括：

當權重值為1時，將原始輸入數據傳送到加法器；以及

當權重值為-1時，將經過數值取反后的輸入數據傳送到加法器。

8.根據權利要求6所述的處理方法，其中，在卷積時去除或不予考慮數值為0的權重值包括：

針對數值為1或-1的權重值，設置與其相關聯的步進值，該步進值用于指示當前權重值與下一個數值為1或-1的權重值之間的距離。