[發(fā)明專利]神經(jīng)網(wǎng)絡(luò)模型訓(xùn)練方法、圖像識別方法和裝置

有效

• 申請?zhí)枺?/td>: 201910767331.0
• 申請日: 2019-08-20
• 公開（公告）號: CN110555526B
• 公開（公告）日: 2022-07-29
• 發(fā)明（設(shè)計）人: 郭梓超
• 申請（專利權(quán)）人: 北京邁格威科技有限公司
• 主分類號: G06N3/08
• 分類號: G06N3/08;G06N3/04;G06V10/70;G06V10/82;G06V10/774;G06K9/62
• 代理公司: 北京華進(jìn)京聯(lián)知識產(chǎn)權(quán)代理有限公司 11606
• 代理人: 朱五云

1.一種圖像識別方法，其特征在于，包括：

將待處理圖像輸入神經(jīng)網(wǎng)絡(luò)模型進(jìn)行特征提取處理，輸出所述待處理圖像的圖像特征；所述神經(jīng)網(wǎng)絡(luò)模型是根據(jù)訓(xùn)練樣本數(shù)據(jù)、初始階段的采樣概率向量和預(yù)設(shè)的數(shù)據(jù)變換預(yù)測模型，采用不同階段的采樣概率向量得到的增廣樣本數(shù)據(jù)對初始的神經(jīng)網(wǎng)絡(luò)模型進(jìn)行多個階段的訓(xùn)練得到的；所述數(shù)據(jù)變換預(yù)測模型用于根據(jù)每個階段的采樣概率向量預(yù)測每個階段的下一階段的采樣概率向量；所述采樣概率向量中的每個元素值表征每種數(shù)據(jù)變換方式被選中為目標(biāo)數(shù)據(jù)變換方式的概率；所述預(yù)設(shè)的數(shù)據(jù)變換預(yù)測模型是根據(jù)統(tǒng)計得到的關(guān)聯(lián)關(guān)系所預(yù)先訓(xùn)練好的，所述關(guān)聯(lián)關(guān)系為不同數(shù)據(jù)變換方式的切換過程與相同類型的神經(jīng)網(wǎng)絡(luò)模型的性能參數(shù)的變化量之間的關(guān)聯(lián)關(guān)系；所述神經(jīng)網(wǎng)絡(luò)模型的性能參數(shù)包括基于測試樣本數(shù)據(jù)對所述神經(jīng)網(wǎng)絡(luò)模型進(jìn)行測試得到的準(zhǔn)確率、基于測試樣本數(shù)據(jù)對所述神經(jīng)網(wǎng)絡(luò)模型進(jìn)行測試得到的召回率、所述神經(jīng)網(wǎng)絡(luò)模型對所述訓(xùn)練樣本數(shù)據(jù)的預(yù)測結(jié)果與標(biāo)注結(jié)果之間的損失；針對每個階段，獲取所述階段的神經(jīng)網(wǎng)絡(luò)模型的性能參數(shù)，以及所述階段的下一階段的神經(jīng)網(wǎng)絡(luò)模型的性能參數(shù)，并計算所述階段的性能參數(shù)的變化量；其中，所述階段的性能參數(shù)的變化量為所述階段的性能參數(shù)和所述階段的上一階段的性能參數(shù)的差值；或者是以所述階段為最后階段的連續(xù)P個階段的性能參數(shù)的均值，和以所述階段的上一個階段為最后階段的連續(xù)P個階段的性能參數(shù)的均值，之間的差值，P為大于1的整數(shù)；

根據(jù)所述待處理圖像的圖像特征，對所述待處理圖像進(jìn)行圖像識別處理，得到所述待處理圖像的圖像識別結(jié)果。

2.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述神經(jīng)網(wǎng)絡(luò)模型的訓(xùn)練過程包括：

根據(jù)所述訓(xùn)練樣本數(shù)據(jù)和初始階段的采樣概率向量，從初始階段開始對所述神經(jīng)網(wǎng)絡(luò)模型和所述數(shù)據(jù)變換預(yù)測模型交替進(jìn)行每個階段的訓(xùn)練，得到訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)模型；其中，在每個階段，基于所述階段訓(xùn)練后的神經(jīng)網(wǎng)絡(luò)模型的性能參數(shù)的變化量對所述數(shù)據(jù)變換預(yù)測模型進(jìn)行所述階段的訓(xùn)練。

3.根據(jù)權(quán)利要求2所述的方法，其特征在于，所述根據(jù)所述訓(xùn)練樣本數(shù)據(jù)和初始階段的采樣概率向量，從初始階段開始對所述神經(jīng)網(wǎng)絡(luò)模型和所述數(shù)據(jù)變換預(yù)測模型交替進(jìn)行每個階段的訓(xùn)練，得到訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)模型，包括：

針對每個階段，根據(jù)所述階段的采樣概率向量對應(yīng)的目標(biāo)數(shù)據(jù)變換方式，對所述訓(xùn)練樣本數(shù)據(jù)進(jìn)行數(shù)據(jù)變換，得到所述階段的增廣樣本數(shù)據(jù)；

基于所述階段的增廣樣本數(shù)據(jù)對所述階段的神經(jīng)網(wǎng)絡(luò)模型進(jìn)行所述階段的訓(xùn)練，得到所述階段的下一階段的神經(jīng)網(wǎng)絡(luò)模型；

基于所述階段的性能參數(shù)的變化量對所述階段的數(shù)據(jù)變換預(yù)測模型進(jìn)行訓(xùn)練，得到所述階段的下一階段的數(shù)據(jù)變換預(yù)測模型；

將所述階段的采樣概率向量輸入所述階段的下一階段的數(shù)據(jù)變換預(yù)測模型，得到所述階段的下一階段的采樣概率向量。

4.根據(jù)權(quán)利要求3所述的方法，其特征在于，所述基于所述階段的性能參數(shù)的變化量對所述階段的數(shù)據(jù)變換預(yù)測模型進(jìn)行訓(xùn)練，得到所述階段的下一階段的數(shù)據(jù)變換預(yù)測模型，包括：

根據(jù)所述階段的性能參數(shù)的變化量，計算所述數(shù)據(jù)變換預(yù)測模型的獎勵函數(shù)的值；所述獎勵函數(shù)已預(yù)先基于策略梯度構(gòu)建；

根據(jù)所述獎勵函數(shù)的值，對所述階段的數(shù)據(jù)變換預(yù)測模型進(jìn)行訓(xùn)練，得到所述階段的下一階段的數(shù)據(jù)變換預(yù)測模型。

5.根據(jù)權(quán)利要求4所述的方法，其特征在于，所述獎勵函數(shù)F(d)采用以下關(guān)系式計算得到：

F(d)=-e^-dlgp，

其中，d為所述階段的性能參數(shù)的變化量，p為所述階段的采樣概率向量中的最大元素值。