[發明專利]神經網絡模型的量化方法、設備及計算機存儲介質

在審

• 申請號: 202010568807.0
• 申請日: 2020-06-19
• 公開（公告）號: CN111814955A
• 公開（公告）日: 2020-10-23
• 發明（設計）人: 周旭亞
• 申請（專利權）人: 浙江大華技術股份有限公司
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/08
• 代理公司: 深圳市威世博知識產權代理事務所(普通合伙) 44280
• 代理人: 瞿璨

1.一種神經網絡模型的量化方法，其特征在于，所述方法包括：

對所述神經網絡模型輸入訓練圖片，進行第一數據類型的計算，獲得所述神經網絡模型中每一計算層的第一輸入數據；

根據至少兩種算法獲得所述每一計算層的至少兩個初始量化因子；

基于所述至少兩個初始量化因子獲得所述每一計算層量化后的至少兩個第二輸入數據；

比較所述每一計算層中第一輸入數據和每個第二輸入數據的相關性；

將相關性最大的第二輸入數據對應的初始量化因子作為所述計算層的最終量化因子；

將所述最終量化因子輸入所述神經網絡模型。

2.根據權利要求1所述的量化方法，其特征在于，所述方法還包括：

將所述計算層之后的數據歸一層合并至所述計算層以進行計算。

3.根據權利要求1所述的量化方法，其特征在于，所述計算層包括卷積層和全連接層；所述方法還包括：

將所述卷積層、全連接層的前一層的輸出數據類型設置為第二數據類型。

4.根據權利要求3所述的量化方法，其特征在于，所述方法還包括：

將非計算層的前一層的輸出數據類型設置為第二數據類型。

5.根據權利要求3所述的量化方法，其特征在于，所述量化因子包括權重量化因子和輸入量化因子；所述將所述最終量化因子輸入所述神經網絡模型，包括：

將所述計算層的輸入量化因子傳輸至前一層，使得所述前一層的輸出數據為第二數據類型。

6.根據權利要求5所述的量化方法，其特征在于，所述第一數據類型為浮點類型，所述第二數據類型為定點類型。

7.根據權利要求5所述的量化方法，其特征在于，所述將所述最終量化因子輸入所述神經網絡模型，還包括：

根據所述權重量化因子計算得到量化權重值，將所述量化權重值輸入所述神經網絡模型。

8.根據權利要求1所述的量化方法，其特征在于，所述將所述最終量化因子輸入所述神經網絡模型，包括：

根據所述量化因子將所述計算層的偏置值轉換為所述計算層的輸出數據類型。

9.一種終端設備，其特征在于，所述設備包括存儲器以及與所述存儲器耦接的處理器；

其中，所述存儲器用于存儲程序數據，所述處理器用于執行所述程序數據以實現如權利要求1～8任一項所述的神經網絡模型的量化方法。

10.一種計算機存儲介質，其特征在于，所述計算機存儲介質用于存儲程序數據，所述程序數據在被處理器執行時，用以實現如權利要求1～8任一項所述的神經網絡模型的量化方法。