[發(fā)明專利]一種神經(jīng)網(wǎng)絡構建方法以及系統(tǒng)

在審

• 申請?zhí)枺?/td>: 202010425173.3
• 申請日: 2020-05-19
• 公開（公告）號: CN111783937A
• 公開（公告）日: 2020-10-16
• 發(fā)明（設計）人: 林耘豐;李桂林;張星;張偉楠;李震國
• 申請（專利權）人: 華為技術有限公司
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/08
• 代理公司: 深圳市深佳知識產(chǎn)權代理事務所(普通合伙) 44285
• 代理人: 聶秀娜

1.一種神經(jīng)網(wǎng)絡構建方法，其特征在于，包括：

獲取初始骨干網(wǎng)絡和候選集，所述初始骨干網(wǎng)絡用于構建目標神經(jīng)網(wǎng)絡；

將所述初始骨干網(wǎng)絡中的至少一個基本單元替換為至少一個占位模塊，得到待定網(wǎng)絡，所述候選集中包括與所述至少一個占位模塊對應的多種結構的參數(shù)；

根據(jù)所述候選集進行采樣，得到至少一個采樣結構的信息；

根據(jù)所述待定網(wǎng)絡和所述至少一個采樣結構的信息獲取網(wǎng)絡模型，其中，所述至少一個采樣結構的信息用于確定所述至少一個占位模塊的結構；

若所述網(wǎng)絡模型符合所述預設條件，則將所述網(wǎng)絡模型作為所述目標神經(jīng)網(wǎng)絡。

2.根據(jù)權利要求1所述的方法，其特征在于，在所述根據(jù)所述待定網(wǎng)絡和所述至少一個采樣結構的信息獲取網(wǎng)絡模型之后，所述方法還包括：

若所述網(wǎng)絡模型不符合預設條件，則重新根據(jù)所述候選集進行采樣，并根據(jù)重新采樣得到的至少一個采樣結構的信息更新所述網(wǎng)絡模型。

3.根據(jù)權利要求1或2所述的方法，其特征在于，在所述根據(jù)所述候選集進行采樣，得到至少一個采樣結構的信息之前，所述方法包括：

根據(jù)所述候選集構建參數(shù)空間，所述參數(shù)空間中包括與所述多種結構的參數(shù)對應的架構參數(shù)；

所述根據(jù)所述候選集進行采樣，得到至少一個采樣結構的信息，包括：

對所述參數(shù)空間進行采樣，得到與所述至少一個采樣結構對應的至少一組采樣參數(shù)。

4.根據(jù)權利要求3所述的方法，其特征在于，所述根據(jù)所述待定網(wǎng)絡和所述至少一個采樣結構的信息獲取網(wǎng)絡模型，包括：

根據(jù)所述至少一組采樣參數(shù)對所述待定網(wǎng)絡中的至少一個占位模塊的結構進行轉(zhuǎn)換，得到所述網(wǎng)絡模型。

5.根據(jù)權利要求3所述的方法，其特征在于，在所述根據(jù)所述待定網(wǎng)絡和所述至少一個采樣結構的信息獲取網(wǎng)絡模型之前，所述方法還包括：

根據(jù)所述候選集和所述待定網(wǎng)絡構建多種結構，所述多種結構組成結構搜索空間；

所述根據(jù)所述待定網(wǎng)絡和所述至少一個采樣結構的信息獲取網(wǎng)絡模型，包括：

根據(jù)所述至少一組采樣參數(shù)從所述結構搜索空間搜索所述網(wǎng)絡模型。

6.根據(jù)權利要求1-5中任一項所述的方法，其特征在于，所述根據(jù)所述候選集進行采樣的采樣方式，包括：隨機采樣；或者，按照預設規(guī)則采樣。

7.根據(jù)權利要求6所述的方法，其特征在于，若所述采樣方式為按照所述預設規(guī)則采樣，則在確定所述網(wǎng)絡模型不符合預設條件之后，所述方法還包括：

根據(jù)所述網(wǎng)絡模型的評估結果采用預設的優(yōu)化算法更新所述預設規(guī)則。

8.根據(jù)權利要求7所述的方法，其特征在于，所述優(yōu)化算法包括：進化算法、強化學習算法、貝葉斯優(yōu)化算法或梯度優(yōu)化算法。

9.根據(jù)權利要求1-8中任一項所述的方法，其特征在于，所述預設條件包括以下一項或者多項：獲取所述網(wǎng)絡模型的次數(shù)超過預設次數(shù)、獲取所述網(wǎng)絡模型的時長超過預設時長或者所述網(wǎng)絡模型的輸出結果符合預設要求。

10.根據(jù)權利要求1-9任一項所述的方法，其特征在于，所述候選集中包括以下一項或者多項：算子的種類、算子的屬性信息或者算子之間的連接方式。

11.根據(jù)權利要求1-10中任一項所述的方法，其特征在于，所述目標神經(jīng)網(wǎng)絡用于進行圖片識別、語義分割或者目標檢測中的至少一種。

12.根據(jù)權利要求1-11中任一項所述的方法，其特征在于，在所述將所述網(wǎng)絡模型作為所述目標神經(jīng)網(wǎng)絡之后，所述方法還包括：

通過預設的數(shù)據(jù)集對所述目標神經(jīng)網(wǎng)絡進行訓練，得到訓練后的所述目標神經(jīng)網(wǎng)絡。