[發明專利]生成搜索空間的方法、裝置、設備及存儲介質

在審

• 申請號: 202011020842.5
• 申請日: 2020-09-25
• 公開（公告）號: CN112100467A
• 公開（公告）日: 2020-12-18
• 發明（設計）人: 希滕;張剛;溫圣召
• 申請（專利權）人: 北京百度網訊科技有限公司
• 主分類號: G06F16/909
• 分類號: G06F16/909;G06N3/08
• 代理公司: 北京同立鈞成知識產權代理有限公司 11205
• 代理人: 鈄颯颯;臧建明

1.一種生成搜索空間的方法，包括：

獲取目標模型的結構化信息和初始搜索空間，所述初始搜索空間包括構成所述目標模型的網絡結構單元的第一搜索空間，所述第一搜索空間包括多個搜索項以及每個所述搜索項對應的搜索范圍；

在所述初始搜索空間中，搜索網絡結構單元，根據搜索到的網絡結構單元和所述結構化信息，生成初始模型結構，并訓練所述初始模型結構，記錄訓練后得到的備選模型的性能；

根據所述備選模型的性能確定最優搜索空間，所述搜索空間用于搜索得到最優的目標模型，所述目標模型用于執行數據處理任務。

2.根據權利要求1所述的方法，其中，在所述初始搜索空間中，搜索網絡結構單元，根據搜索到的網絡結構單元和所述結構化信息，生成初始模型結構，并訓練所述初始模型結構，記錄訓練后得到的備選模型的性能，包括：

循環進行如下迭代處理，直至滿足迭代停止條件：

在所述初始搜索空間中，基于當前的獎勵反饋信息搜索網絡結構單元；

根據搜索到的網絡結構單元和所述結構化信息，生成初始模型結構；

訓練所述初始模型結構，得到備選模型，并記錄所述備選模型的性能，更新所述獎勵反饋信息。

3.根據權利要求2所述的方法，其中，在所述初始搜索空間中，基于當前的獎勵反饋信息搜索網絡結構單元，包括：

基于所述當前的獎勵反饋信息優化網絡結構單元生成器；

在所述網絡結構單元的搜索空間中，根據所述網絡結構單元生成器，生成所述網絡結構單元。

4.根據權利要求1所述的方法，其中，在所述初始搜索空間中，搜索網絡結構單元，包括：

將所述初始搜索空間進行序列化編碼；

根據網絡結構單元生成器，生成網絡結構單元編碼；

對所述網絡結構單元編碼進行解碼，得到所述網絡結構單元。

5.根據權利要求2所述的方法，其中，所述迭代停止條件為：

所述獎勵反饋信息滿足預設收斂條件；

或，

所述迭代處理的執行次數大于或等于預設閾值。

6.根據權利要求2所述的方法，其中，所述初始搜索空間中包括每層的搜索空間，且各層的搜索空間均相同，

在所述初始搜索空間中搜索網絡結構單元，包括：

在一層搜索空間中搜索網絡結構單元。

7.根據權利要求6所述的方法，其中，所述結構化信息包括網絡結構單元構成層結構的第一拓撲信息，以及所述層結構構成所述目標模型的第二拓撲信息，

所述根據搜索到的網絡結構單元和所述結構化信息，生成初始模型結構，包括：

根據所述第一拓撲信息，利用所述網絡結構單元生成層結構；

根據所述第二拓撲信息，利用所述層結構堆疊得到所述初始模型結構。

8.根據權利要求6所述的方法，其中，所述根據所述備選模型的性能確定最優搜索空間，包括：

根據所述備選模型的性能，確定該層優化后的搜索空間；

將所述該層優化后的搜索空間作為每層的搜索空間，構成所述最優搜索空間。

9.根據權利要求8所述的方法，其中，所述根據所述備選模型的性能，確定該層優化后的搜索空間，包括：

按照性能對所述備選模型排序，確定前k個備選模型；根據所述前k個備選模型對應的網絡結構單元，確定該層優化后的搜索空間；

或者，

根據性能滿足預設條件的備選模型對應的網絡結構單元，確定該層優化后的搜索空間。

10.根據權利要求1-9中任一項所述的方法，其中，所述根據所述備選模型的性能確定最優搜索空間之后，還包括：

在所述最優搜索空間中進行神經網絡模型搜索，得到所述目標模型。