[發明專利]神經網絡的量化與定點化融合方法及裝置

有效

• 申請號: 201910966512.6
• 申請日: 2019-10-11
• 公開（公告）號: CN110705696B
• 公開（公告）日: 2022-06-28
• 發明（設計）人: 齊南
• 申請（專利權）人: 阿波羅智能技術（北京）有限公司
• 主分類號: G06N3/04
• 分類號: G06N3/04
• 代理公司: 北京市鑄成律師事務所 11313
• 代理人: 鄧海鴻;陳建民

1.一種神經網絡的量化與定點化融合方法，其特征在于，包括：

對神經網絡的當前層的輸入數據和權重做量化處理；

在所述當前層中，利用量化處理后的權重對量化處理后的輸入數據做計算操作，得到計算操作結果；

對預設處理參數進行定點化處理；

利用定點化處理后的預設處理參數，對所述計算操作結果進行后處理操作，得到所述當前層的輸出結果；

其中，所述預設處理參數包括：所述當前層的輸入數據的量化幅值、所述當前層的權重的量化幅值、所述當前層的輸出數據的量化幅值、所述當前層的批量歸一化的尺度和所述當前層的批量歸一化的偏置值中的至少一項；

所述對預設處理參數進行定點化處理，包括：對至少兩個所述預設處理參數進行融合計算，得到所述當前層的尺度值和所述當前層的第二偏置值；

所述后處理操作包括：將所述計算操作結果與所述當前層的尺度值相乘之后，再與所述當前層的第二偏置值相加；

所述對至少兩個所述預設處理參數進行融合計算，包括利用以下公式進行融合計算：

new_scale＝bn_scale*input_scale*weight_scale/output_scale；

new_bias＝bn_bias/output_scale；

其中，new_scale表示所述當前層的尺度值，bn_scale表示所述當前層的批量歸一化的尺度，input_scale表示所述當前層的輸入數據的量化幅值，weight_scale表示所述當前層的權重的量化幅值，output_scale表示所述當前層的輸出數據的量化幅值，new_bias表示所述當前層的第二偏置值，bn_bias表示所述當前層的批量歸一化的偏置值；

所述對神經網絡的當前層的輸入數據和權重做量化處理，包括：對泊車位的環境參數和泊車車身的航向角和權重做量化處理；所述計算操作結果包括用于完成自動泊車控制的方向盤的轉角。

2.根據權利要求1所述的方法，其特征在于，

所述計算操作包括將所述量化處理后的輸入數據與所述量化處理后的權重相乘；

所述預設處理參數包括所述當前層的第一偏置值；

所述后處理操作包括將所述計算操作結果與定點化處理后的所述第一偏置值相加。

3.根據權利要求1所述的方法，其特征在于，

所述計算操作包括卷積操作。