[發明專利]基于工程化實現的卷積神經網絡量化方法

有效

• 申請號: 201810319586.6
• 申請日: 2018-04-11
• 公開（公告）號: CN108510067B
• 公開（公告）日: 2021-11-09
• 發明（設計）人: 張犁;黃蓉;陳治宇;趙博然;牛毅;石光明
• 申請（專利權）人: 西安電子科技大學
• 主分類號: G06N3/063
• 分類號: G06N3/063;G06N3/04;G06K9/62
• 代理公司: 陜西電子工業專利中心 61205
• 代理人: 王品華;朱紅星

1.一種基于工程化實現的卷積神經網絡量化方法，包括：

(1)從互聯網下載兩個已經預訓練好的浮點格式卷積神經網絡模型；

(2)根據硬件平臺處理器的位寬在(1)下載的預訓練浮點模型的每一層卷積層和全連接層后面都添加一層自定義的量化層，并用該自定義的量化層對浮點形式的輸入數據進行量化，量化的公式為：

其中，Convert表示將浮點輸入數據轉化為定點輸入數據，x為浮點輸入數據，IL和FL分別表示定點輸入數據的整數位寬和小數位寬，round為四舍五入函數，是編程語言的內置函數，2^FL表示量化成小數位寬為FL的定點數，-2^IL-1表示定點輸入數據表示的數值范圍的下限，2^IL-1-2^-FL表示定點輸入數據表示的數值范圍的上限；

(3)根據硬件平臺處理器的位寬對(1)下載的預訓練浮點模型中已經訓練好的浮點權值進行量化，量化的公式為：

其中，Convert表示將浮點權值轉化為定點權值，w為浮點權值，IL′和FL′分別表示定點權值的整數位寬和小數位寬，round為四舍五入函數，是編程語言的內置函數，2^FL′表示量化成小數位寬為FL′的定點數，-2^IL′-1表示定點權值表示的數值范圍的下限，2^IL′-1-2^-FL′表示定點權值表示的數值范圍的上限。

2.根據權利要求1所述的方法，其中步驟(2)中在步驟(1)下載的預訓練浮點模型的每一層卷積層和全連接層后面都添加一層自定義的量化層，是利用編程語言python完成的，其步驟如下：

(2a)定義一個量化層，量化層對浮點輸入數據進行量化，量化的定點數位寬用1+IL+FL表示，其中IL表示整數位寬，FL表示小數位寬；

(2b)在步驟(1)下載的預訓練浮點網絡的每一層卷積層和全連接層后面調用(2a)定義的量化層，用于網絡的前向傳播。

3.根據權利要求1所述的方法，其中步驟(1)從互聯網下載兩個已經預訓練好的浮點格式卷積神經網絡模型，包括：

由3層卷積層和2層全連接層組成的小型網絡模型，

由13層卷積層和3層全連接層組成的大型網絡模型。