[發(fā)明專利]神經(jīng)網(wǎng)絡計算方法和神經(jīng)網(wǎng)絡計算裝置

在審

• 申請?zhí)枺?/td>: 202010130671.5
• 申請日: 2020-02-28
• 公開（公告）號: CN113326914A
• 公開（公告）日: 2021-08-31
• 發(fā)明（設計）人: 蔣力;馬暢;崔曉松;陳云;廖健行
• 申請（專利權）人: 華為技術有限公司
• 主分類號: G06N3/04
• 分類號: G06N3/04
• 代理公司: 北京龍雙利達知識產權代理有限公司 11329
• 代理人: 時林;王君

1.一種神經(jīng)網(wǎng)絡計算方法，其特征在于，包括：

接收第一輸入數(shù)據(jù)；

根據(jù)計算陣列中存儲的第一權重對所述第一輸入數(shù)據(jù)進行第一神經(jīng)網(wǎng)絡計算，其中，所述第一權重為神經(jīng)網(wǎng)絡系統(tǒng)中第一神經(jīng)網(wǎng)絡層的權重，所述第一權重包括多個權重值，所述多個權重值中的每個權重值均由權重相同的N位數(shù)表示，N大于或等于2。

2.根據(jù)權利要求1所述的方法，其特征在于，所述多個權重值包括第一權重值，用于表示所述第一權重值的N位數(shù)包括第一數(shù)值和第二數(shù)值，所述第一數(shù)值大于所述第二數(shù)值，所述第一數(shù)值存儲于所述計算陣列的第一存算單元中，所述第二數(shù)值存儲于所述計算陣列的第二存算單元中，所述第一存算單元的器件誤差小于所述第二存算單元的器件誤差。

3.根據(jù)權利要求2所述的方法，其特征在于，用于表示所述第一權重值的N位數(shù)分別存儲在所述計算陣列的N個存算單元中，所述方法還包括：

在基于所述第一權重值對所述第一輸入數(shù)據(jù)進行神經(jīng)網(wǎng)絡計算時，將存儲所述第一權重值的N個存算單元的輸出結果輸入累加器進行累加計算；

當所述累加器的累加次數(shù)達到N時，控制所述累加器輸出計算結果。

4.根據(jù)權利要求1至3中任一項所述的方法，其特征在于，還包括：

接收第二輸入數(shù)據(jù)；

根據(jù)計算陣列中存儲的第二權重對所述第二輸入數(shù)據(jù)執(zhí)行第二神經(jīng)網(wǎng)絡計算，其中，所述第二權重為所述神經(jīng)網(wǎng)絡系統(tǒng)中第二神經(jīng)網(wǎng)絡層的權重，所述第二權重包括多個權重值，所述多個權重值中的每個權重值均由權重相同的M位數(shù)表示，M大于或等于2，且M不等于N。

5.根據(jù)權利要求1至4中任一項所述的方法，其特征在于，所述第一權重是根據(jù)均勻編碼方式對第一初始權重進行編碼后得到的，所述均勻編碼方式包括多層編碼MLC均勻編碼。

6.一種神經(jīng)網(wǎng)絡計算裝置，其特征在于，包括：

接收端口，用于接收第一輸入數(shù)據(jù)；

計算陣列，用于基于所述計算陣列中存儲的第一權重對所述第一輸入數(shù)據(jù)進行第一神經(jīng)網(wǎng)絡計算，其中，所述第一權重為神經(jīng)網(wǎng)絡系統(tǒng)中第一神經(jīng)網(wǎng)絡層的權重，所述第一權重包括多個權重值，所述多個權重值中的每個權重值均由權重相同的N位數(shù)表示，N大于或等于2。

7.根據(jù)權利要求6所述的裝置，其特征在于，所述多個權重值包括第一權重值，用于表示所述第一權重值的N位數(shù)包括第一數(shù)值和第二數(shù)值，所述第一數(shù)值大于所述第二數(shù)值，所述第一數(shù)值存儲于所述計算陣列的第一存算單元中，所述第二數(shù)值存儲于所述計算陣列的第二存算單元中，所述第一存算單元的器件誤差小于所述第二存算單元的器件誤差。

8.根據(jù)權利要求7所述的裝置，其特征在于，用于表示所述第一權重值的N位數(shù)分別存儲在所述計算陣列的N個存算單元中，所述裝置還包括累加器，所述累加器用于：

在基于所述第一權重值對所述第一輸入數(shù)據(jù)進行神經(jīng)網(wǎng)絡計算時，將存儲所述第一權重值的N個存算單元的輸出結果輸入累加器進行累加計算；

當所述累加器的累加次數(shù)達到N時，控制所述累加器輸出計算結果。

9.根據(jù)權利要求8所述的裝置，其特征在于，所述裝置還包括：

模擬數(shù)字轉換器ADC，所述ADC分別與所述計算陣列和所述累加器連接，用于將所述N個存算單元的模擬輸出結果轉換為數(shù)字輸出結果，并將所述數(shù)字輸出結果發(fā)送至所述累加器進行累加計算。

10.根據(jù)權利要求6至9中任一項所述的裝置，其特征在于，

所述接收端口還用于：接收第二輸入數(shù)據(jù)；

所述計算陣列還用于：根據(jù)所述計算陣列中存儲的第二權重對所述第二輸入數(shù)據(jù)執(zhí)行第二神經(jīng)網(wǎng)絡計算，其中，所述第二權重為所述神經(jīng)網(wǎng)絡系統(tǒng)中第二神經(jīng)網(wǎng)絡層的權重，所述第二權重包括多個權重值，所述多個權重值中的每個權重值均由權重相同的M位數(shù)表示，M大于或等于2，且M不等于N。