[發(fā)明專利]基于漸進(jìn)式未知域擴(kuò)展的單域泛化方法

在審

• 申請?zhí)枺?/td>: 202110686059.0
• 申請日: 2021-06-21
• 公開（公告）號: CN113313202A
• 公開（公告）日: 2021-08-27
• 發(fā)明（設(shè)計(jì)）人: 曹娟;李蕾;高科;謝添
• 申請（專利權(quán)）人: 中國科學(xué)院計(jì)算技術(shù)研究所
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06N3/04;G06N3/08
• 代理公司: 北京泛華偉業(yè)知識產(chǎn)權(quán)代理有限公司 11280
• 代理人: 王勇

本發(fā)明提供一種基于漸進(jìn)式未知域擴(kuò)展的單域泛化網(wǎng)絡(luò)，包括樣本生成器G、分類模型M以及循環(huán)生成器Gcyc，其中樣本生成器G用于將樣本泛化到多個(gè)領(lǐng)域，分類模型M用于對輸入分類，并用于驗(yàn)證樣本生成器G生成樣本的有效性與安全性，循環(huán)生成器Gcyc用于驗(yàn)證樣本生成器G生成樣本的安全性，其中經(jīng)過樣本生成器G泛化后的樣本作為分類模型M的訓(xùn)練樣本對分類模型M進(jìn)行訓(xùn)練，以及作為循環(huán)生成器Gcyc的輸入，由循環(huán)生成器Gcyc進(jìn)行驗(yàn)證。本發(fā)明在分布外樣本分類、分布外圖像分割任務(wù)中有效的提升了分類正確率，并且可以推廣至其他有限有偏樣本的分類任務(wù)中。

技術(shù)領(lǐng)域

本發(fā)明涉及計(jì)算機(jī)視覺領(lǐng)域，尤其涉及一種基于圖像數(shù)據(jù)增強(qiáng)的分布外樣本分類識別方法。

背景技術(shù)

在當(dāng)前海量帶標(biāo)簽數(shù)據(jù)集(比如圖像分類數(shù)據(jù)集Imagenet)的支持下，深度學(xué)習(xí)在圖像分類領(lǐng)域取得了巨大突破，然而對海量樣本的依賴也限制了深度學(xué)習(xí)技術(shù)在有限樣本數(shù)據(jù)集分類任務(wù)上的進(jìn)一步突破，于是數(shù)據(jù)增強(qiáng)技術(shù)被提出以提升有限樣本數(shù)據(jù)的利用率。傳統(tǒng)的數(shù)據(jù)增強(qiáng)方法主要包括旋轉(zhuǎn)、平移、隨機(jī)顏色、Mixup等手段來擴(kuò)增樣本，可以在一定程度上對模型進(jìn)行正則，減小過擬合風(fēng)險(xiǎn)。當(dāng)前的單域泛化技術(shù)主要是應(yīng)用數(shù)據(jù)增強(qiáng)方法，通過對源域樣本進(jìn)行數(shù)據(jù)增強(qiáng)合成接近目標(biāo)域的樣本。然而此類技術(shù)通常需要對目標(biāo)域的類型有明確限定，且需要對數(shù)據(jù)增強(qiáng)的類型和幅度進(jìn)行仔細(xì)選擇，以確定合適的超參數(shù)。

當(dāng)前的數(shù)據(jù)增強(qiáng)方法往往是經(jīng)驗(yàn)式的，缺乏理論指導(dǎo)，主要有如下兩方面的缺點(diǎn)：

當(dāng)前數(shù)據(jù)增強(qiáng)方法的增強(qiáng)空間有限，僅限于已經(jīng)被提出的有限的幾個(gè)類別，比如隨機(jī)旋轉(zhuǎn)、隨機(jī)crop、隨機(jī)顏色等等。無法自動合成任意類別的圖像。

當(dāng)前數(shù)據(jù)增強(qiáng)方法往往具有很大的超參數(shù)搜索空間，以google在AutoAugment中的研究為例，常用的數(shù)據(jù)增強(qiáng)參數(shù)搜索空間大小為2.9*10³²?；谌斯そ?jīng)驗(yàn)進(jìn)行數(shù)據(jù)增強(qiáng)參數(shù)的選擇往往無法獲得最優(yōu)的性能。

發(fā)明內(nèi)容

本發(fā)明針對上述問題，根據(jù)本發(fā)明的第一方面，提出一種基于漸進(jìn)式未知域擴(kuò)展的單域泛化網(wǎng)絡(luò)，包括樣本生成器G、分類模型M以及循環(huán)生成器Gcyc，其中樣本生成器G用于將樣本泛化到多個(gè)領(lǐng)域，分類模型M用于對輸入分類，并用于驗(yàn)證樣本生成器G生成樣本的有效性與安全性，循環(huán)生成器Gcyc用于驗(yàn)證樣本生成器G生成樣本的安全性，

其中經(jīng)過樣本生成器G泛化后的樣本作為分類模型M的訓(xùn)練樣本對分類模型M進(jìn)行訓(xùn)練，以及作為循環(huán)生成器Gcyc的輸入，由循環(huán)生成器Gcyc進(jìn)行驗(yàn)證。

在本發(fā)明的一個(gè)實(shí)施例中，其中，樣本生成器G與循環(huán)生成器Gcyc具有相同的結(jié)構(gòu)，分別包括編碼器G_E，解碼器G_D，和隨機(jī)信號擾動器AdaIN，其中隨機(jī)信號擾動器AdaIN還包括兩個(gè)全連接層，用于將隨機(jī)信號n映射得到AdaIN中的仿射形變參數(shù)。

在本發(fā)明的一個(gè)實(shí)施例中，其中，分類模型M包括分類神經(jīng)網(wǎng)絡(luò)和投影頭P，其中分類神經(jīng)網(wǎng)絡(luò)包括特征提取器F和分類頭C。

在本發(fā)明的一個(gè)實(shí)施例中，其中所述分類神經(jīng)網(wǎng)絡(luò)為CNN。

根據(jù)本發(fā)明的第二方面，提出一種用于本發(fā)明的基于漸進(jìn)式未知域擴(kuò)展的單域泛化網(wǎng)絡(luò)的訓(xùn)練方法，所述方法包括包含K個(gè)步驟，其中前K-1個(gè)步驟分別對K-1個(gè)分布外領(lǐng)域訓(xùn)練樣本生成器，其中第k步驟包括對第k步領(lǐng)域訓(xùn)練樣本生成器G_k以及對分類模型M進(jìn)行訓(xùn)練，k＝1,2,3,…K-1，在第K步中，將第K-1步中訓(xùn)練好的分類模型M進(jìn)行輸出，其中K為正整數(shù)。

在本發(fā)明的一個(gè)實(shí)施例中，其中在第k步訓(xùn)練中還包括，將分類模型M的權(quán)重參數(shù)復(fù)制到M_k，將原始訓(xùn)練集S作為源域，由樣本生成器G_k合成新的分布外樣本集將加入到S_all中，以及使用S_all對分類模型M進(jìn)行訓(xùn)練。