[發(fā)明專利]一種基于分布對(duì)抗的無(wú)監(jiān)督深度領(lǐng)域適應(yīng)方法

在審

• 申請(qǐng)?zhí)枺?/td>: 202110401067.6
• 申請(qǐng)日: 2021-04-14
• 公開(kāi)（公告）號(hào): CN113011523A
• 公開(kāi)（公告）日: 2021-06-22
• 發(fā)明（設(shè)計(jì)）人: 潘杰;黃霄漢;陳寧寧;鄒筱瑜
• 申請(qǐng)（專利權(quán)）人: 中國(guó)礦業(yè)大學(xué)
• 主分類(lèi)號(hào): G06K9/62
• 分類(lèi)號(hào): G06K9/62;G06N3/04;G06N3/08
• 代理公司: 南京瑞弘專利商標(biāo)事務(wù)所(普通合伙) 32249
• 代理人: 馬玉雯

本發(fā)明公開(kāi)了一種基于分布對(duì)抗的無(wú)監(jiān)督深度領(lǐng)域適應(yīng)方法，包括以下步驟：獲取待分析數(shù)據(jù)；建立深度網(wǎng)絡(luò)模型；數(shù)據(jù)的前向傳播；構(gòu)造損失函數(shù)包括標(biāo)簽分類(lèi)器的損失，領(lǐng)域判別器的損失，多核最大均值差異以及全局損失函數(shù)；使用mini?batch隨機(jī)梯度下降法進(jìn)行參數(shù)更新。本方法融合了特征分布與領(lǐng)域?qū)梗蛊涔餐饔糜诰W(wǎng)絡(luò)模型，提高模型的領(lǐng)域適應(yīng)能力。所提方法基于卷積神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)，在分類(lèi)器的全連接層進(jìn)行特征分布匹配，使用MK?MMD衡量領(lǐng)域間的特征分布差異，同時(shí)在卷積層后搭建兩層全連接網(wǎng)絡(luò)作為領(lǐng)域判別器進(jìn)行領(lǐng)域?qū)埂＞C合大量實(shí)驗(yàn)證明了所提方法能夠提高深度網(wǎng)絡(luò)模型的領(lǐng)域適應(yīng)能力。

技術(shù)領(lǐng)域

本發(fā)明屬于深度學(xué)習(xí)領(lǐng)域，特別涉及一種基于分布對(duì)抗的無(wú)監(jiān)督深度領(lǐng)域適應(yīng)方法。

背景技術(shù)

領(lǐng)域適應(yīng)可以分為兩類(lèi)：淺層領(lǐng)域適應(yīng)和深度領(lǐng)域適應(yīng)。淺層領(lǐng)域適應(yīng)包含：實(shí)例權(quán)重重調(diào)，特征擴(kuò)充，特征空間對(duì)齊和特征變換。實(shí)例權(quán)重重調(diào)方法的主要思想是根據(jù) 實(shí)例似然比進(jìn)行權(quán)重調(diào)整，如領(lǐng)域分類(lèi)器的獨(dú)立后驗(yàn)概率，或通過(guò)KL散度衡量密度函 數(shù)差異。而特征擴(kuò)充法則根據(jù)測(cè)地流采樣和測(cè)地流核等理論把原始特征嵌入d維線性子 空間，并將數(shù)據(jù)視為格拉茲曼流形上的點(diǎn)，通過(guò)探索不同域局部幾何結(jié)構(gòu)拉近領(lǐng)域間距 離。特征空間對(duì)齊強(qiáng)調(diào)將源特征與目標(biāo)特征對(duì)齊，如子空間對(duì)齊通過(guò)最小化子空間之間 的布雷格曼散度來(lái)尋求對(duì)齊。線性相關(guān)對(duì)齊通過(guò)對(duì)齊不同領(lǐng)域的二階統(tǒng)計(jì)量來(lái)減少源和 目標(biāo)分布的領(lǐng)域漂移。特征變換法，典型方法有遷移成分分析，把源域與目標(biāo)域投影到 潛在空間中來(lái)縮小領(lǐng)域間的分布差異。

與淺層領(lǐng)域適應(yīng)不同，深度領(lǐng)域適應(yīng)是在深度網(wǎng)絡(luò)模型下建立的領(lǐng)域適應(yīng)方法。最 近研究表明深度神經(jīng)網(wǎng)絡(luò)能夠?qū)W習(xí)到更多的遷移表示，其利用領(lǐng)域不變因素對(duì)數(shù)據(jù)分層 提取特征，效果優(yōu)于人工特征方法，在分類(lèi)任務(wù)中表現(xiàn)更為出色。然而文獻(xiàn)表明，深度特征從輸入到輸出層逐漸從一般轉(zhuǎn)向特殊，特征可遷移性在較高層時(shí)急劇下降，提取深 度神經(jīng)網(wǎng)絡(luò)的任務(wù)特定層特征，反而會(huì)增大領(lǐng)域差異。如何令源領(lǐng)域訓(xùn)練的深度模型在 目標(biāo)域中也能夠很好工作，引起了研究人員的更多探討。這一類(lèi)工作中，最大均值差異(Maximum Mean Discrepancy，MMD)被廣泛用于匹配不同域的分布，如深度適應(yīng)網(wǎng) 絡(luò)，聯(lián)合適應(yīng)網(wǎng)絡(luò)，殘差遷移網(wǎng)絡(luò)等均把MMD嵌入深度神經(jīng)網(wǎng)絡(luò)的特定層，通過(guò)減小 MMD損失來(lái)更新網(wǎng)絡(luò)適應(yīng)層，從而學(xué)習(xí)到更多的可遷移特征。

近來(lái)，生成對(duì)抗網(wǎng)絡(luò)(Generative Adversarial Nets，GANs)在深度學(xué)習(xí)領(lǐng)域中大放 異彩，對(duì)抗博弈的思想也被廣泛應(yīng)用于領(lǐng)域適應(yīng)中。一些方法提出利用GANs將源域圖像轉(zhuǎn)換為目標(biāo)域圖像，并利用生成的目標(biāo)域圖像訓(xùn)練分類(lèi)器。然而，當(dāng)源域和目標(biāo)域分 布完全不同時(shí)，會(huì)產(chǎn)生梯度消失現(xiàn)象，導(dǎo)致對(duì)抗訓(xùn)練的效果變差。另一些方法對(duì)GANs 改進(jìn)后再用源域與目標(biāo)域數(shù)據(jù)進(jìn)行訓(xùn)練，使對(duì)抗方法的領(lǐng)域適應(yīng)能力得到提高。其策略 是把生成器改為特征提取器，判別器改為領(lǐng)域分類(lèi)器，如在領(lǐng)域混淆的基礎(chǔ)上添加軟標(biāo) 簽損失來(lái)描述數(shù)據(jù)類(lèi)別相似度，這樣做既拉近了領(lǐng)域間特征分布，又拉近了相似類(lèi)別數(shù) 據(jù)的分布。此外，梯度反轉(zhuǎn)層嵌入深度網(wǎng)絡(luò)中，利用對(duì)抗學(xué)習(xí)中博弈思想讓特征提取器 “迷惑”領(lǐng)域判別器達(dá)到領(lǐng)域適應(yīng)的目的。

發(fā)明內(nèi)容

針對(duì)在深度領(lǐng)域適應(yīng)現(xiàn)存方法中出現(xiàn)的負(fù)遷移及欠適配等問(wèn)題，提出一種基于分布 對(duì)抗的無(wú)監(jiān)督深度領(lǐng)域適應(yīng)方法，主要解決無(wú)監(jiān)督領(lǐng)域適應(yīng)問(wèn)題。

本發(fā)明的目的是通過(guò)以下技術(shù)方案，包括以下步驟：

(1)獲取待分析數(shù)據(jù)：選取圖片數(shù)據(jù)，圖片數(shù)據(jù)x輸入網(wǎng)絡(luò)產(chǎn)生分類(lèi)標(biāo)簽y∈Y和 領(lǐng)域標(biāo)簽d∈D，Y為標(biāo)簽集，D＝{0,1}，圖片數(shù)據(jù)分為源域數(shù)據(jù)和目標(biāo)域數(shù)據(jù)，源域 數(shù)據(jù)定義為目標(biāo)域數(shù)據(jù)定義為

(2)建立深度網(wǎng)絡(luò)模型：所述模型基于深度卷積神經(jīng)網(wǎng)絡(luò)建立，包括卷積層構(gòu)成的特征提取器G_f、全連接層構(gòu)成的標(biāo)簽分類(lèi)器G_y和領(lǐng)域判別器G_d；