[發明專利]神經網絡模型部署方法、裝置及設備

在審

• 申請號: 201980039593.3
• 申請日: 2019-11-13
• 公開（公告）號: CN112313674A
• 公開（公告）日: 2021-02-02
• 發明（設計）人: 聶谷洪;施澤浩;孫揚
• 申請（專利權）人: 深圳市大疆創新科技有限公司
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/08;G06F17/16
• 代理公司: 北京太合九思知識產權代理有限公司 11610
• 代理人: 劉戈

1.一種神經網絡模型部署方法，其特征在于，包括：

獲得已訓練好的卷積神經網絡模型；

對所述卷積神經網絡模型中卷積層的權重參數進行矩陣分解，獲得所述卷積層的矩陣分解結果；

根據所述矩陣分解結果，調整所述卷積神經網絡模型的結構，以對所述卷積神經網絡模型進行壓縮，得到所述卷積神經網絡模型的壓縮后模型；

對所述壓縮后模型進行部署。

2.根據權利要求1所述的方法，其特征在于，所述根據所述矩陣分解結果，調整所述卷積神經網絡模型的結構，包括：

根據所述矩陣分解結果，確定用于替換所述卷積層的替代層，所述替代層的權重參數的數量少于所述卷積層的權重參數的數量；

采用所述替代層替換所述卷積神經網絡模型中的所述卷積層。

3.根據權利要求2所述的方法，其特征在于，所述矩陣分解結果包括多個求和項；

所述根據所述矩陣分解結果，確定用于替換所述卷積層的替代層，包括：

根據所述多個求和項中的部分求和項，確定用于替換所述卷積層的替代層。

4.根據權利要求3所述的方法，其特征在于，所述方法還包括：

根據所述多個求和項中所述部分求和項之外的其他求和項，確定所述替代層的偏置參數。

5.根據權利要求2所述的方法，其特征在于，所述對所述卷積神經網絡模型中卷積層的權重參數進行矩陣分解，包括：

按照所述卷積神經網絡模型中卷積層的輸入通道，對所述卷積層的權重參數進行分組，并將每組權重參數作為二維矩陣進行矩陣分解，得到每組權重參數的第一矩陣分解結果；和/或，

按照所述卷積神經網絡模型中卷積層的輸出通道，將所述卷積層的權重參數進行分組，并將每組權重參數作為二維矩陣進行矩陣分解，得到每組權重參數的第二矩陣分解結果。

6.根據權利要求5所述的方法，其特征在于，每組權重參數的所述第一矩陣分解結果包括多個第一求和項，各第一求和項均對應一個用于表征其重要程度的能量；

所述根據所述矩陣分解結果，確定用于替換所述卷積層的替代層，包括：

按照能量由大至小的順序，對每組權重參數的所述多個第一求和項進行排序，并選擇排序靠前的部分求和項作為第一目標求和項；

根據每組權重參數的所述第一目標求和項，確定用于替換所述卷積層的替代層。

7.根據權利要求5所述的方法，其特征在于，每組權重參數的所述第二矩陣分解結果包括多個第二求和項，各第二求和項均對應一個用于表征其重要程度的能量；

所述根據所述矩陣分解結果，確定用于替換所述卷積層的替代層，包括：

按照能量由大至小的順序，對每組權重參數的所述多個第二求和項進行排序，并選擇排序靠前的部分求和項作為第二目標求和項；

根據每組權重參數的所述第二目標求和項，確定用于替換所述卷積層的替代層。

8.根據權利要求5所述的方法，其特征在于，每組權重參數的所述第一矩陣分解結果包括多個第一求和項，各第一求和項均對應一個用于表征其重要程度的能量；每組權重參數的所述第二矩陣分解結果包括多個第二求和項，各第二求和項均對應一個用于表征其重要程度的能量；

所述根據所述矩陣分解結果，確定用于替換所述卷積層的替代層，包括：

按照能量由大至小的順序，對每組權重參數的所述多個第一求和項進行排序，并選擇排序靠前的部分求和項作為第一目標求和項；

按照能量由大至小的順序，對每組權重參數的所述多個第二求和項進行排序，并選擇排序靠前的部分求和項作為第二目標求和項；

基于目標策略，選擇所述第一目標求和項或所述第二目標求和項作為特定目標求和項，并根據特定目標求和項確定用于替換所述卷積層的替代層。

9.根據權利要求8所述的方法，其特征在于，所述目標策略包括求和項最少策略或能量最大策略。