[發明專利]網絡模型的處理方法及裝置、電子設備和存儲介質

有效

• 申請號: 202011021703.4
• 申請日: 2020-09-25
• 公開（公告）號: CN111967585B
• 公開（公告）日: 2022-02-22
• 發明（設計）人: 郭少鵬;王宇杰;李全全
• 申請（專利權）人: 深圳市商湯科技有限公司
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/08
• 代理公司: 北京派特恩知識產權代理有限公司 11270
• 代理人: 崔曉嵐;張穎玲

1.一種網絡模型的處理方法，其特征在于，所述方法應用于第一網絡模型，所述第一網絡模型包括N個階段，N為大于等于2的整數，所述N個階段具有對應的N個第一結構，所述方法包括：

基于具有對應的N個第一結構的所述N個階段，構建與所述N個階段對應的N個馬爾科夫模型；

利用所述N個馬爾科夫模型對所述第一網絡模型進行采樣以及訓練，得到對所述第一網絡模型進行訓練后的第二網絡模型；

針對所述第二網絡模型的N個階段中的每個階段，基于該階段對應的馬爾科夫模型確定該階段中的各卷積層以及各卷積層中的各通道被保留的邊際概率；將所述邊際概率與該階段進行合并，并利用目標訓練集對合并結果進行訓練，得到該階段對應的優化的可學習參數；基于該階段對應的優化的可學習參數確定與該階段對應的優化的馬爾科夫模型；

利用與所述N個階段對應的N個優化的馬爾科夫模型確定與所述N個階段對應的N個期望結構；所述期望結構包括：期望的卷積層的數量以及各個卷積層中期望的通道數量；

基于所述N個期望結構對所述N個階段對應的N個第一結構進行調整，得到所述第一網絡模型的優化結構；

利用具有所述優化結構的第一網絡模型對目標圖像進行圖像處理，識別所述目標圖像中的目標對象。

2.根據權利要求1所述的方法，其特征在于，所述基于所述N個期望結構對所述N個階段對應的N個第一結構進行調整，包括：

判斷所述N個階段對應的N個期望結構與所述N個階段對應的N個第一結構是否滿足預設關系；

若所述N個階段對應的N個期望結構與所述N個階段對應的N個第一結構滿足預設關系，則將所述N個第一結構確定為所述N個階段的優化結構；

若所述N個階段對應的N個期望結構與所述N個階段對應的N個第一結構不滿足預設關系，則迭代執行如下步驟，直到所述N個第一結構與所述N個期望結構滿足預設關系：

基于所述N個期望結構對所述N個第一結構進行更新，得到N個第二結構；

利用所述N個優化的馬爾科夫模型對具有N個第二結構的第一網絡模型進行采樣及訓練，得到更新的第二網絡模型；

基于所述更新的第二網絡模型對所述N個優化的馬爾科夫模型進行優化；

利用N個優化的馬爾科夫模型確定與所述N個階段對應的N個期望結構。

3.根據權利要求1所述的方法，其特征在于，所述利用所述N個馬爾科夫模型對所述第一網絡模型進行采樣以及訓練，得到對所述第一網絡模型進行訓練后的第二網絡模型，包括：

利用所述N個馬爾科夫模型分別采樣所述第一網絡模型中的至少一個子模型；

利用目標訓練集訓練所述子模型，得到所述子模型的參數；

利用所述子模型的參數更新所述第一網絡模型的參數，并對所述第一網絡模型進行訓練，得到對所述第一網絡模型進行訓練后的第二網絡模型。

4.根據權利要求3所述的方法，其特征在于，所述對所述第一網絡模型進行訓練，包括：

基于所述子模型的損失函數和所述第一網絡模型的損失函數確定用于訓練所述第一網絡模型的第一損失函數，并利用所述第一損失函數對所述第一網絡模型進行訓練。

5.根據權利要求1所述的方法，其特征在于，所述將所述邊際概率與該階段進行合并，包括：

針對該階段對應的馬爾科夫模型中的第i層的第k個狀態，將該狀態的邊際概率與該階段的第i個卷積層的第k組通道的輸出相乘，得到子合并結果；

將i的取值從1到L，且k的取值從1到C得到的多個子合并結果結合得到合并結果；其中，L為該階段包含的卷積層的數量，L為大于等于1的整數，C為該階段的各卷積層包含的通道組的數量，C為大于等于1的整數。

6.根據權利要求1所述的方法，其特征在于，所述利用目標訓練集對合并結果進行訓練，得到該階段對應的優化的可學習參數，包括：

利用預設的損失函數、計算量約束函數以及預設的超參數確定第二損失函數；

利用所述第二損失函數對該階段對應的優化的可學習參數進行優化，得到該階段對應的優化的可學習參數。