[發明專利]模型生成方法及裝置、電子設備和存儲介質

有效

• 申請號: 202011273240.0
• 申請日: 2020-11-13
• 公開（公告）號: CN112348188B
• 公開（公告）日: 2023-04-07
• 發明（設計）人: 次元政;林宸;歐陽萬里;孫明
• 申請（專利權）人: 北京市商湯科技開發有限公司
• 主分類號: G06N3/0985
• 分類號: G06N3/0985;G06N3/04;G06V10/82
• 代理公司: 廣州三環專利商標代理有限公司 44202
• 代理人: 熊永強;董文俊

本申請實施例提供一種模型生成方法及裝置、電子設備和存儲介質，其中，所述方法包括：獲取第一網絡模型的第一搜索空間，所述第一搜索空間包括所述第一網絡模型的m層的每一層的K個候選采樣模塊；獲取第二搜索空間，所述第二搜索空間包括所述第一搜索空間中滿足預設條件的候選采樣模塊，所述第二搜索空間的規格與所述第一搜索空間的規格相同；對所述第二搜索空間進行超網訓練，以得到N個第二參考網絡模型；根據所述N個第二參考網絡模型的性能參數和預設性能參數，從所述N個第二參考網絡模型中確定出所述第一網絡模型，能夠提升網絡模型確定時的便捷性。

技術領域

本申請涉及人工智能技術領域，具體涉及一種模型生成方法及裝置、電子設備和存儲介質。

背景技術

深度神經網絡是圖像分類、檢測、分割等實際應用的核心組件，自動化網絡設計是提高生產效率及減少人工作量的關鍵。最近出現了一些為目標任務設計專用的搜索空間來優化網絡結構。在這種簡化的范式下，結果的性能易于優化，但會受到所設計的搜索空間自身質量的限制。就其他特定任務和資源限制而言，需要人為干預以提出一個更合適的空間。

在以往的網絡結構設計中，設計一個基本模塊并在網絡各尺度復用是最為簡潔直觀的設計方式，因此許多網絡結構搜索算法是基于模塊的。通常需要不斷采樣結構并對每個樣本進行充分地訓練以衡量其性能，導致很難直接在大數據集上直接搜索最適于該任務的結構，使得獲取網絡模型時的便捷性較低。

發明內容

本申請實施例提供一種模型生成方法及裝置、電子設備和存儲介質，能夠提升網絡模型確定時的便捷性。

本申請實施例的第一方面提供了一種模型生成方法，所述方法包括：

獲取第一網絡模型的第一搜索空間，所述第一搜索空間包括所述第一網絡模型的m層的每一層的K個候選采樣模塊；

獲取第二搜索空間，所述第二搜索空間包括所述第一搜索空間中滿足預設條件的候選采樣模塊，所述第二搜索空間的規格與所述第一搜索空間的規格相同；

對所述第二搜索空間進行超網訓練，以得到N個第二參考網絡模型；

根據所述N個第二參考網絡模型的性能參數和預設性能參數，從所述N個第二參考網絡模型中確定出所述第一網絡模型。

結合第二方面，在一個可能的實現方式中，所述獲取第二搜索空間，包括：

對所述第一搜索空間進行超網訓練，以得到N個第一參考網絡模型；

根據所述N個第一參考網絡模型的性能參數和預設性能參數，從所述N個第一參考網絡模型中確定出M個滿足所述預設性能的第一參考網絡模型，M為小于或等于N的正整數；

獲取所述M個滿足所述預設性能的第一參考網絡模型的采樣模塊；

從所述搜索空間池中獲取第一數量的候選采樣模塊；

將所述第一數量的候選采樣模塊和所述M個滿足所述預設性能的第一參考網絡模型的采樣模塊的并集確定為第二搜索空間，所述第二搜索空間包括所述第一網絡模型的m層的每一層的K個候選采樣模塊。

結合第二方面，在一個可能的實現方式中，所述根據所述N個第一參考網絡模型的性能參數和預設性能參數，從所述N個第一參考網絡模型中確定出M個滿足所述預設性能的第一參考網絡模型，包括：

根據所述預設性能參數，確定帕累托邊界；

將所述N個第一參考網絡模型中性能參數在所述帕累托邊界上的M個第一參考網絡模型，確定為滿足所述預設性能的第一參考網絡模型。

結合第一方面，在一個可能的實現方式中，對所述第二搜索空間進行超網訓練，以得到N個第二參考網絡模型，包括：

從所述第一網絡模型的m層的每一層的K個候選采樣模塊中獲取A個候選采樣模塊；