[發明專利]神經網絡模型量化方法以及裝置

在審

• 申請號: 202010787932.0
• 申請日: 2020-08-07
• 公開（公告）號: CN114065904A
• 公開（公告）日: 2022-02-18
• 發明（設計）人: 徐兵;張楠賡
• 申請（專利權）人: 嘉楠明芯（北京）科技有限公司
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/063;G06F17/18
• 代理公司: 北京市中倫律師事務所 11410
• 代理人: 鐘錦舜

1.一種神經網絡模型量化方法，其特征在于，包括：

利用神經網絡模型中的卷積層對多幀圖像進行處理，得到第N次數據統計信息和第N+1次數據統計信息，其中，N大于或等于1；

利用所述第N次數據統計信息得到第N次量化參數；利用所述第N+1次數據統計信息，或，所述第N次數據統計信息和所述第N+1次數據統計信息組成的集合，得到第N+1次量化參數；

根據所述第N次量化參數和所述第N+1次量化參數，得到第N次更新的總量化參數；

在所述總量化參數的更新次數N達到對應閾值的情況下，利用所述卷積層對當前時期采集的圖像進行處理，得到激活輸出數據；

基于所述第N次更新的總量化參數，對所述激活輸出數據進行量化計算，得到量化后的數據。

2.根據權利要求1所述的方法，其特征在于，還包括：

在所述總量化參數的更新次數未達到對應閾值的情況下，返回執行所述利用神經網絡模型中的卷積層對多幀圖像進行處理的步驟。

3.根據權利要求1所述的方法，其特征在于，還包括：

利用所述卷積層對預選的多幀圖像進行處理，得到第N-1次數據統計信息；

利用所述第N-1次數據統計信息得到第N-1次量化參數。

4.根據權利要求3所述的方法，其特征在于，利用神經網絡模型中的卷積層對多幀圖像進行處理，得到第N次數據統計信息和第N+1次數據統計信息，包括：

利用所述卷積層對歷史時期采集的多幀圖像依次進行處理，得到所述第N次數據統計信息和所述第N+1次數據統計信息。

5.根據權利要求4所述的方法，其特征在于，還包括：

根據所述第N-1次量化參數和所述第N次量化參數，得到第N-1次更新的總量化參數。

6.根據權利要求1所述的方法，其特征在于，還包括：

采用滑動窗口處理所述數據統計信息，得到一幀圖像對應的數據統計信息或多幀圖像對應的數據統計信息。

7.根據權利要求1所述的方法，其特征在于，還包括：

采用阿爾法濾波器處理所述數據統計信息，得到多幀圖像對應的數據統計信息的加權平均值。

8.一種神經網絡模型量化裝置，其特征在于，包括：

第一數據處理模塊，用于利用神經網絡模型中的卷積層對多幀圖像進行處理，得到第N次數據統計信息和第N+1次數據統計信息，其中，N大于或等于1；

第一量化參數計算模塊，用于利用所述第N次數據統計信息得到第N次量化參數；利用所述第N+1次數據統計信息，或所述第N次數據統計信息和所述第N+1次數據統計信息組成的集合，得到第N+1次量化參數；

第一總量化參數更新模塊，用于根據所述第N次量化參數和所述第N+1次量化參數，得到第N次更新的總量化參數；

第二數據處理模塊，用于在所述總量化參數的更新次數N達到對應閾值的情況下，利用所述卷積層對當前時期采集的圖像進行處理，得到激活輸出數據；

量化計算模塊，用于基于所述第N次更新的總量化參數，對所述激活輸出數據進行量化計算，得到量化后的數據。

9.根據權利要求8所述的裝置，其特征在于，還包括：

數據處理觸發模塊，用于在所述總量化參數的更新次數未達到對應閾值的情況下，返回執行所述利用神經網絡模型中的卷積層對多幀圖像進行處理的步驟。

10.根據權利要求8所述的裝置，其特征在于，還包括：

第三數據處理模塊，用于利用所述卷積層對預選的多幀圖像進行處理，得到第N-1次數據統計信息；

第二量化參數計算模塊，用于利用所述第N-1次數據統計信息得到第N-1次量化參數。