[發明專利]一種神經網絡架構選擇方法、裝置和電子設備

在審

• 申請號: 202110307991.8
• 申請日: 2021-03-23
• 公開（公告）號: CN112990436A
• 公開（公告）日: 2021-06-18
• 發明（設計）人: 鄭欣悅;王鵬;尚雨薇
• 申請（專利權）人: 聯想（北京）有限公司
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/08
• 代理公司: 北京集佳知識產權代理有限公司 11227
• 代理人: 王歡

1.一種神經網絡架構選擇方法，包括：

獲取架構池中的第一架構，所述架構池中包括至少兩個第一架構；

依據所述至少兩個第一架構建立隱特征空間；

在隱特征空間的第一區間進行采樣，得到采樣結果，所述采樣結果中包括至少兩個隱特征，所述隱特征空間的第一區間中隱特征精度高于隱特征空間第一區間外的隱特征精度；

對于所述采樣結果中的隱特征進行解碼，得到至少兩個第二架構；

從所述至少兩個第二架構中選擇符合預定條件的架構作為目標架構。

2.根據權利要求1所述的方法，所述在隱特征空間的第一區間進行采樣，得到采樣結果，包括：

以第一采樣概率在第一區間進行采樣，以第二采樣概率在隱特征空間進行采樣，得到采樣結果，第一采樣概率與第二采樣概率之和為1。

3.根據權利要求1所述的方法，所述依據所述至少兩個第一架構建立隱特征空間，包括：

依據所述至少兩個第一架構對于控制器的預設參數進行訓練，得到滿足預設訓練要求的控制器；

基于訓練后的控制器對于所述至少兩個第一架構進行編碼，得到隱特征；

基于所述隱特征建立隱特征空間。

4.根據權利要求3所述的方法，所述對于所述采樣結果中的隱特征進行解碼，得到至少兩個第二架構之前，還包括：

基于所述采樣結果進行優化，優化后的隱特征精度高于所述優化前的隱特征精度。

5.根據權利要求3所述的方法，所述依據所述至少兩個第一架構對于控制器的預設參數進行訓練，得到滿足預設訓練要求的控制器，包括：

基于控制器對于所述至少兩個第一架構進行評估，產生至少兩個架構與精度的對應關系；

基于所述至少兩個架構與精度的對應關系，訓練所述控制器的預設參數，得到滿足預設訓練要求的控制器。

6.根據權利要求5所述的方法，所述基于所述隱特征建立隱特征空間，包括：

基于至少兩個架構與精度的對應關系，獲取與任一第一架構的隱特征相應的精度，得到精度與隱特征的對應關系；

基于所述精度與隱特征的對應關系建立隱特征空間，所述隱特征空間包括第一區間和第二區間，所述第一區間中隱特征的精度高于第二區間中隱特征的精度。

7.根據權利要求5所述的方法，所述對于所述采樣結果中的隱特征進行解碼，得到至少兩個第二架構之后，還包括：

判斷對于隱特征進行解碼的次數是否滿足預設次數，得到判斷結果；

基于所述判斷結果表征對于隱特征進行解碼的次數滿足預設次數，執行所述從所述至少兩個第二架構中選擇符合預定條件的架構作為目標架構步驟；

基于所述判斷結果表征對于隱特征進行解碼的次數不滿足預設次數，將所述至少兩個第二架構作為第一架構放入所述架構池；并循環執行后續獲取架構池中的第一架構的步驟。

8.一種神經網絡架構選擇裝置，包括：

獲取模塊，用于獲取架構池中的第一架構，所述架構池中包括至少兩個第一架構；

建立模塊，用于依據所述至少兩個第一架構建立隱特征空間；

采樣模塊，用于在隱特征空間的第一區間進行采樣，得到采樣結果，所述采樣結果中包括至少兩個隱特征，所述隱特征空間的第一區間中隱特征精度高于隱特征空間第一區間外的隱特征精度；

處理模塊，用于對于所述采樣結果中的隱特征進行解碼，得到至少兩個第二架構；

選擇模塊，用于從所述至少兩個第二架構中選擇符合預定條件的架構作為目標架構。

9.根據權利要求8所述的裝置，所述采樣模塊，具體用于：

以第一采樣概率在第一區間進行采樣，以第二采樣概率在隱特征空間進行采樣，得到采樣結果，第一采樣概率與第二采樣概率之和為1。

10.一種電子設備，包括：存儲器、處理器；

其中，存儲器存儲有處理程序；

所述處理器用于加載并執行所述存儲器存儲的所述處理程序，以實現如上述1-7任一項所述的神經網絡架構選擇方法的各步驟。