[發明專利]一種神經網絡模型生成方法及裝置

有效

• 申請號: 202110103858.0
• 申請日: 2021-01-26
• 公開（公告）號: CN112836819B
• 公開（公告）日: 2023-07-25
• 發明（設計）人: 宇哲倫
• 申請（專利權）人: 北京奇藝世紀科技有限公司
• 主分類號: G06N3/08
• 分類號: G06N3/08;G06N3/0464
• 代理公司: 北京柏杉松知識產權代理事務所(普通合伙) 11413
• 代理人: 項京;馬敬

1.一種神經網絡模型生成方法，其特征在于，所述方法包括：

獲取預設結構的第一神經網絡模型；其中，所述第一神經網絡模型包括至少一個批標準化BN層；

基于目標樣本圖像和目標損失函數，對所述第一神經網絡模型進行模型訓練，得到第二神經網絡模型；其中，所述目標損失函數為基于原始損失函數和所述BN層的模型參數計算得到的；所述第二神經網絡模型的輸入參數為所述目標樣本圖像、輸出參數為所述目標樣本圖像中每一像素點屬于預設類別的概率；

確定所述第二神經網絡模型中除目標卷積核以外的網絡模型結構，作為第三神經網絡模型；其中，所述目標卷積核為所述第二神經網絡模型中對應的BN層的模型參數的絕對值小于目標閾值的卷積核；

基于所述第三神經網絡模型，生成目標神經網絡模型；

所述目標損失函數的計算過程包括：

針對每一BN層，基于預設公式計算該BN層對應的正則化約束；其中，所述預設公式為：

R＝λ₁|γ|+λ₂|β|

R表示該BN層對應的正則化約束，λ₁和λ₂表示預設權重；γ表示該BN層的縮放因子，β表示該BN層的偏置；|γ|表示γ的范數，|β|表示β的范數；

計算各個BN層對應的正則化約束與所述原始損失函數的總和值，得到所述目標損失函數。

2.根據權利要求1所述的方法，其特征在于，所述基于所述第三神經網絡模型，生成目標神經網絡模型，包括：

針對所述第三神經網絡模型中的每一BN層，按照該BN層的前一網絡層輸出數據的維度，對該BN層的維度進行調整，得到第四神經網絡模型；

基于所述目標樣本圖像和所述原始損失函數，對所述第四神經網絡模型進行模型訓練，得到目標神經網絡模型。

3.根據權利要求1所述的方法，其特征在于，在確定所述第二神經網絡模型中除目標卷積核以外的網絡模型結構，作為第三神經網絡模型之前，所述方法還包括：

基于每一備選閾值，確定所述第二神經網絡模型中除備選卷積核以外的網絡模型結構，作為該備選閾值對應的備選神經網絡模型；其中，所述備選卷積核為所述第二神經網絡模型中對應的BN層的模型參數的絕對值小于該備選閾值的卷積核；

獲取該備選閾值對應的備選神經網絡模型，對預設測試圖像進行處理的處理結果的精確度；

從各個備選閾值中，確定對應的備選神經網絡模型的精確度滿足預設條件，且數值最大的備選閾值，作為目標閾值。

4.根據權利要求3所述的方法，其特征在于，在從各個備選閾值中，確定對應的備選神經網絡模型的精確度滿足預設條件，且數值最大的備選閾值，作為目標閾值之前，所述方法還包括：

獲取所述第二神經網絡模型對所述預設測試圖像進行處理的處理結果的精確度，作為目標精確度；

所述從各個備選閾值中，確定對應的備選神經網絡模型的精確度滿足預設條件，且數值最大的備選閾值，作為目標閾值，包括：

從各個備選閾值中，確定對應的備選神經網絡模型的精確度與所述目標精確度的差值的絕對值小于預設數值的備選閾值，作為待處理閾值；

確定數值最大的待處理閾值，作為目標閾值。

5.根據權利要求1所述的方法，其特征在于，在基于目標樣本圖像和目標損失函數，對所述第一神經網絡模型進行模型訓練，得到第二神經網絡模型之前，所述方法還包括：

獲取原始樣本圖像；

基于預設的圖像增強處理算法，對所述原始樣本圖像進行增強處理，得到目標樣本圖像。