[發(fā)明專利]神經(jīng)網(wǎng)絡(luò)的生成及圖像處理方法、裝置、系統(tǒng)和存儲介質(zhì)

在審

• 申請?zhí)枺?/td>: 201910900766.8
• 申請日: 2019-09-23
• 公開（公告）號: CN110807470A
• 公開（公告）日: 2020-02-18
• 發(fā)明（設(shè)計(jì)）人: 郭梓超
• 申請（專利權(quán)）人: 北京邁格威科技有限公司
• 主分類號: G06K9/62
• 分類號: G06K9/62
• 代理公司: 北京市磐華律師事務(wù)所 11336
• 代理人: 卜璐璐

本發(fā)明提供了一種神經(jīng)網(wǎng)絡(luò)的生成及圖像處理方法、裝置、系統(tǒng)和存儲介質(zhì)，該方法包括：獲取第一神經(jīng)網(wǎng)絡(luò)，并在第一神經(jīng)網(wǎng)絡(luò)的任意節(jié)點(diǎn)位置處插入超級模塊形成第二神經(jīng)網(wǎng)絡(luò)，超級模塊包括多個分支，每個分支對應(yīng)于一個候選的神經(jīng)網(wǎng)絡(luò)操作，每個分支與第一神經(jīng)網(wǎng)絡(luò)構(gòu)成第二神經(jīng)網(wǎng)絡(luò)的一個分支網(wǎng)絡(luò)；對第二神經(jīng)網(wǎng)絡(luò)的每個分支網(wǎng)絡(luò)進(jìn)行訓(xùn)練和測試，以確定最優(yōu)操作，包括最優(yōu)操作的分支網(wǎng)絡(luò)作為第三神經(jīng)網(wǎng)絡(luò)；確定第三神經(jīng)網(wǎng)絡(luò)是否滿足預(yù)設(shè)約束條件，如果滿足，則將第三神經(jīng)網(wǎng)絡(luò)作為最終生成的神經(jīng)網(wǎng)絡(luò)，如果不滿足，則將第三神經(jīng)網(wǎng)絡(luò)視為第一神經(jīng)網(wǎng)絡(luò)，并回到插入超級模塊的步驟。本發(fā)明的方案能夠?qū)崿F(xiàn)高效地自動生成在特定任務(wù)上表現(xiàn)較好的神經(jīng)網(wǎng)絡(luò)。

技術(shù)領(lǐng)域

本發(fā)明涉及神經(jīng)網(wǎng)絡(luò)技術(shù)領(lǐng)域，更具體地涉及一種神經(jīng)網(wǎng)絡(luò)的生成及圖像處理方法、裝置、系統(tǒng)和存儲介質(zhì)。

背景技術(shù)

目前在圖像處理(諸如圖像識別)領(lǐng)域，對神經(jīng)網(wǎng)絡(luò)的使用越來越普遍。神經(jīng)網(wǎng)絡(luò)(諸如卷積神經(jīng)網(wǎng)絡(luò))是現(xiàn)如今深度學(xué)習(xí)模型最常用的一種網(wǎng)絡(luò)，并且基于這種網(wǎng)絡(luò)，近年來不斷有性能更優(yōu)的模型結(jié)構(gòu)被提出。從AlexNet、VGG16、Inception到Resnet、Xception等，研究人員通過手工設(shè)計(jì)與實(shí)驗(yàn)，不斷提出性能更優(yōu)的神經(jīng)網(wǎng)絡(luò)模型。

然而，手工設(shè)計(jì)生成方法對研究人員的能力和經(jīng)驗(yàn)要求很高，缺乏相關(guān)理論指導(dǎo)，往往需要花費(fèi)研究人員大量時間和精力，才能在某一任務(wù)或某一數(shù)據(jù)集上設(shè)計(jì)生成適用的模型。并且，模型的設(shè)計(jì)生成方式多種多樣，而手工設(shè)計(jì)生成方法考慮到的模型結(jié)構(gòu)數(shù)量十分受限，手工設(shè)計(jì)生成的模型往往與最優(yōu)模型相差很大，這將影響使用該模型進(jìn)行圖像處理的效果。

發(fā)明內(nèi)容

為了解決上述問題而提出了本發(fā)明。本發(fā)明提出了一種神經(jīng)網(wǎng)絡(luò)的生成及圖像處理方案，其在神經(jīng)網(wǎng)絡(luò)的一般框架下，將涵蓋多種候選神經(jīng)網(wǎng)絡(luò)操作的超級模塊插入其中，并對其進(jìn)行不斷訓(xùn)練和測試，從而能夠由淺及深地找出性能較優(yōu)的模型，實(shí)現(xiàn)高效地自動生成在特定任務(wù)上表現(xiàn)較好的神經(jīng)網(wǎng)絡(luò)，提高圖像處理的可靠性。下面簡要描述本發(fā)明提出的神經(jīng)網(wǎng)絡(luò)的生成及圖像處理方案，更多細(xì)節(jié)將在后續(xù)結(jié)合附圖在具體實(shí)施方式中加以描述。

根據(jù)本發(fā)明一方面，提供了一種神經(jīng)網(wǎng)絡(luò)的生成方法，所述方法包括：獲取第一神經(jīng)網(wǎng)絡(luò)，并在所述第一神經(jīng)網(wǎng)絡(luò)的任意節(jié)點(diǎn)位置處插入超級模塊形成第二神經(jīng)網(wǎng)絡(luò)，所述超級模塊包括多個分支，每個分支對應(yīng)于一個候選的神經(jīng)網(wǎng)絡(luò)操作，每個分支與所述第一神經(jīng)網(wǎng)絡(luò)構(gòu)成所述第二神經(jīng)網(wǎng)絡(luò)的一個分支網(wǎng)絡(luò)；對所述第二神經(jīng)網(wǎng)絡(luò)的每個分支網(wǎng)絡(luò)進(jìn)行訓(xùn)練和測試，以確定所述多個候選的神經(jīng)網(wǎng)絡(luò)操作中最優(yōu)的神經(jīng)網(wǎng)絡(luò)操作，包括所述最優(yōu)的神經(jīng)網(wǎng)絡(luò)操作的分支網(wǎng)絡(luò)作為第三神經(jīng)網(wǎng)絡(luò)；以及確定所述第三神經(jīng)網(wǎng)絡(luò)是否滿足預(yù)設(shè)約束條件，如果滿足，則將所述第三神經(jīng)網(wǎng)絡(luò)作為最終生成的神經(jīng)網(wǎng)絡(luò)，如果不滿足，則將所述第三神經(jīng)網(wǎng)絡(luò)視為所述第一神經(jīng)網(wǎng)絡(luò)，并回到所述插入超級模塊的步驟，如此循環(huán)，直到得到滿足所述預(yù)設(shè)約束條件的神經(jīng)網(wǎng)絡(luò)。

在本發(fā)明的一個實(shí)施例中，所述多個候選的神經(jīng)網(wǎng)絡(luò)操作彼此之間是不同的操作，或者，所述多個候選的神經(jīng)網(wǎng)絡(luò)操作彼此之間是相同的操作但具有不同的參數(shù)。

在本發(fā)明的一個實(shí)施例中，所述多個候選的神經(jīng)網(wǎng)絡(luò)包括第一卷積操作、第二卷積操作、第一池化操作和第二池化操作，其中：所述第一卷積操作與所述第二卷積操作的卷積核個數(shù)不同，所述第一池化操作是平均池化操作，所述第二池化操作是最大池化操作。

在本發(fā)明的一個實(shí)施例中，所述對所述第二神經(jīng)網(wǎng)絡(luò)的每個分支網(wǎng)絡(luò)，包括：對包括所述超級模塊的所述第二神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練，在所述訓(xùn)練中每次迭代時隨機(jī)選擇所述多個分支中的一個。

在本發(fā)明的一個實(shí)施例中，所述第一神經(jīng)網(wǎng)絡(luò)是已經(jīng)訓(xùn)練好權(quán)重的網(wǎng)絡(luò)，在形成所述第二神經(jīng)網(wǎng)絡(luò)后，所述第一神經(jīng)網(wǎng)絡(luò)未改變的部分的權(quán)重繼承已經(jīng)訓(xùn)練好的權(quán)重。

在本發(fā)明的一個實(shí)施例中，所述最優(yōu)的神經(jīng)網(wǎng)絡(luò)操作是對訓(xùn)練好的所述多個分支網(wǎng)絡(luò)測試得到最高準(zhǔn)確率的分支網(wǎng)絡(luò)所包括的候選的神經(jīng)網(wǎng)絡(luò)操作，所述預(yù)設(shè)約束條件包括計(jì)算量需求或速度約束。