[發明專利]深度學習網絡加速方法、裝置、設備及存儲介質

在審

• 申請號: 202111011290.6
• 申請日: 2021-08-31
• 公開（公告）號: CN113688989A
• 公開（公告）日: 2021-11-23
• 發明（設計）人: 羅晨光
• 申請（專利權）人: 中國平安人壽保險股份有限公司
• 主分類號: G06N3/08
• 分類號: G06N3/08;G06F11/34;G06N3/04
• 代理公司: 深圳市精英專利事務所 44242
• 代理人: 李翔宇

1.一種深度學習網絡加速方法，其特征在于，包括：

獲取已存儲的訓練集；其中，所述訓練集中包括多個訓練數據；

根據所述訓練集對待訓練基礎模型進行訓練，得到基礎模型，并得到與所述基礎模型對應的模型參數集；

獲取已存儲的校驗集，通過所述校驗集對所述基礎模型進行模型校驗，若所述基礎模型通過模型校驗，保存所述基礎模型及對應的所述模型參數集；

獲取已存儲的測試集，將所述測試集輸入至所述基礎模型進行運算直至得到測試結果，并得到CPU測試參數集；

若確定所述CPU測試參數集中的測試總耗時超出預設的測試時長閾值，將所述基礎模型對應的模型參數集及模型結構根據預設的模型調整策略進行調整，得到調整后基礎模型，以調整后基礎模型更新作為待訓練基礎模型，返回執行所述根據所述訓練集對待訓練基礎模型進行模型訓練，得到基礎模型，并得到與所述基礎模型對應的模型參數集的步驟；以及

若確定所述CPU測試參數集中的測試總耗時未超出預設的測試時長閾值，將所述基礎模型發送至目的端進行部署。

2.根據權利要求1所述的深度學習網絡加速方法，其特征在于，所述根據所述訓練集對待訓練基礎模型進行訓練，得到基礎模型，并得到與所述基礎模型對應的模型參數集，包括：

根據所述訓練集對待訓練神經網絡模型進行訓練得到神經網絡，將神經網絡中的分類器進行移除得到基礎模型。

3.根據權利要求1所述的深度學習網絡加速方法，其特征在于，所述獲取已存儲的校驗集，通過所述校驗集對所述基礎模型進行模型校驗，若所述基礎模型通過模型校驗，保存所述基礎模型及對應的所述模型參數集，包括：

獲取所述基礎模型對應的神經網絡；

將所述校驗集中每一校驗數據的輸入數據部分輸入至所述神經網絡進行運算，得到與每一校驗數據對應的預測輸出結果；

將每一校驗數據的輸入數據部分與對應校驗數據的預測輸出結果進行比較，統計獲取校驗數據中具有相同輸入數據部分和預測輸出結果的目標校驗數據，組成目標校驗數據集；

獲取目標校驗數據集中目標校驗數據對應的第一校驗數據總條數，并獲取所述校驗集中校驗數據對應的第二校驗數據總條數，由所述第一校驗數據總條數除以所述第二校驗數據總條數得到驗證通過率；

若確定所述驗證通過率超出預設的正確率閾值，將所述基礎模型增加驗證通過的標識。

4.根據權利要求1所述的深度學習網絡加速方法，其特征在于，所述模型調整策略為參數修剪和共享優化策略；所述將所述基礎模型對應的模型參數集及模型結構根據預設的模型調整策略進行調整，得到調整后基礎模型，包括：

將所述基礎模型對應的模型結構中神經元貢獻值為0的因子刪除，得到調整后基礎模型。

5.根據權利要求1所述的深度學習網絡加速方法，其特征在于，所述模型調整策略為低秩因子分解優化策略；所述將所述基礎模型對應的模型參數集及模型結構根據預設的模型調整策略進行調整，得到調整后基礎模型，包括：

將所述基礎模型對應的模型結構中卷積層中K*K的卷積核由2個K*1的卷積核進行替換，得到調整后基礎模型。

6.根據權利要求1所述的深度學習網絡加速方法，其特征在于，所述模型調整策略為轉移/緊湊卷積濾波器策略；所述將所述基礎模型對應的模型參數集及模型結構根據預設的模型調整策略進行調整，得到調整后基礎模型，包括：

將所述基礎模型對應的模型結構中卷積層之后增加卷積濾波器，得到調整后基礎模型。

7.根據權利要求1所述的深度學習網絡加速方法，其特征在于，所述模型調整策略為知識蒸餾優化策略；所述將所述基礎模型對應的模型參數集及模型結構根據預設的模型調整策略進行調整，得到調整后基礎模型，包括：

獲取所述基礎模型作為教師模型；

獲取知識蒸餾的溫度參數；

將所述教師模型根據所述溫度參數高溫蒸餾至學生模型；

獲取所述學生模型的模型參數集及模型結構，并以學生模型作為調整后基礎模型。