[發明專利]神經網絡的生成及圖像處理方法、裝置、系統和存儲介質

在審

• 申請號: 201910900766.8
• 申請日: 2019-09-23
• 公開（公告）號: CN110807470A
• 公開（公告）日: 2020-02-18
• 發明（設計）人: 郭梓超
• 申請（專利權）人: 北京邁格威科技有限公司
• 主分類號: G06K9/62
• 分類號: G06K9/62
• 代理公司: 北京市磐華律師事務所 11336
• 代理人: 卜璐璐

1.一種神經網絡的生成方法，其特征在于，所述方法包括：

獲取第一神經網絡，并在所述第一神經網絡的任意節點位置處插入超級模塊形成第二神經網絡，所述超級模塊包括多個分支，每個分支對應于一個候選的神經網絡操作，每個分支與所述第一神經網絡構成所述第二神經網絡的一個分支網絡；

對所述第二神經網絡的每個分支網絡進行訓練和測試，以確定所述多個候選的神經網絡操作中最優的神經網絡操作，包括所述最優的神經網絡操作的分支網絡作為第三神經網絡；以及

確定所述第三神經網絡是否滿足預設約束條件，如果滿足，則將所述第三神經網絡作為最終生成的神經網絡，如果不滿足，則將所述第三神經網絡視為所述第一神經網絡，并回到所述插入超級模塊的步驟，如此循環，直到得到滿足所述預設約束條件的神經網絡。

2.根據權利要求1所述的方法，其特征在于，所述多個候選的神經網絡操作彼此之間是不同的操作，或者，所述多個候選的神經網絡操作彼此之間是相同的操作但具有不同的參數。

3.根據權利要求2所述的方法，其特征在于，所述多個候選的神經網絡包括第一卷積操作、第二卷積操作、第一池化操作和第二池化操作，其中：所述第一卷積操作與所述第二卷積操作的卷積核不同，所述第一池化操作是平均池化操作，所述第二池化操作是最大池化操作。

4.根據權利要求1所述的方法，其特征在于，所述對所述第二神經網絡的每個分支網絡進行訓練，包括：

對包括所述超級模塊的所述第二神經網絡進行訓練，在所述訓練中每次迭代時隨機選擇所述多個分支中的一個。

5.根據權利要求1所述的方法，其特征在于，所述第一神經網絡是已經訓練好權重的網絡，在形成所述第二神經網絡后，所述第一神經網絡未改變的部分的權重繼承已經訓練好的權重。

6.根據權利要求1所述的方法，其特征在于，所述最優的神經網絡操作是對訓練好的所述多個分支網絡測試得到最高準確率的分支網絡所包括的候選的神經網絡操作，所述預設約束條件包括計算量需求或速度約束。

7.一種圖像處理方法，其特征在于，所述圖像處理方法包括：

基于圖像處理需求生成用于進行圖像處理的最優神經網絡；以及

獲取待處理的輸入圖像，并采用所述最優神經網絡對所述輸入圖像進行圖像處理；

其中，所述最優神經網絡的生成包括：

獲取第一神經網絡，并在所述第一神經網絡的任意節點位置處插入超級模塊形成第二神經網絡，所述超級模塊包括多個分支，每個分支對應于一個候選的神經網絡操作，每個分支與所述第一神經網絡構成所述第二神經網絡的一個分支網絡；

基于所述圖像處理需求對所述第二神經網絡的每個分支網絡進行訓練和測試，以確定所述多個候選的神經網絡操作中最優的神經網絡操作，包括所述最優的神經網絡操作的分支網絡作為第三神經網絡；以及

確定所述第三神經網絡是否滿足預設約束條件，如果滿足，則將所述第三神經網絡作為最終生成的神經網絡，如果不滿足，則將所述第三神經網絡視為所述第一神經網絡，并回到所述插入超級模塊的步驟，如此循環，直到得到滿足所述預設約束條件的神經網絡。

8.一種神經網絡的生成裝置，其特征在于，所述裝置包括：

插入模塊，用于獲取第一神經網絡，并在所述第一神經網絡的任意節點位置處插入超級模塊形成第二神經網絡，所述超級模塊包括多個分支，每個分支對應于一個候選的神經網絡操作，每個分支與所述第一神經網絡構成所述第二神經網絡的一個分支網絡；

訓練測試模塊，用于對所述第二神經網絡的每個分支網絡進行訓練和測試，以確定所述多個候選的神經網絡操作中最優的神經網絡操作，包括所述最優的神經網絡操作的分支網絡作為第三神經網絡；以及

確定模塊，用于確定所述第三神經網絡是否滿足預設約束條件，如果滿足，則將所述第三神經網絡作為最終生成的神經網絡，如果不滿足，則所述插入模塊將所述第三神經網絡視為所述第一神經網絡，并再次插入所述超級模塊，如此循環，直到得到滿足所述預設約束條件的神經網絡。