[發明專利]一種基于分布對抗的無監督深度領域適應方法在審
| 申請號: | 202110401067.6 | 申請日: | 2021-04-14 |
| 公開(公告)號: | CN113011523A | 公開(公告)日: | 2021-06-22 |
| 發明(設計)人: | 潘杰;黃霄漢;陳寧寧;鄒筱瑜 | 申請(專利權)人: | 中國礦業大學 |
| 主分類號: | G06K9/62 | 分類號: | G06K9/62;G06N3/04;G06N3/08 |
| 代理公司: | 南京瑞弘專利商標事務所(普通合伙) 32249 | 代理人: | 馬玉雯 |
| 地址: | 221116 江蘇省*** | 國省代碼: | 江蘇;32 |
| 權利要求書: | 查看更多 | 說明書: | 查看更多 |
| 摘要: | |||
| 搜索關鍵詞: | 一種 基于 分布 對抗 監督 深度 領域 適應 方法 | ||
1.一種基于分布對抗的無監督深度領域適應方法,其特征在于,該方法包括以下步驟:
(1)獲取待分析數據:選取圖片數據,圖片數據x輸入網絡產生分類標簽y∈Y和領域標簽d∈D,Y為標簽集,D={0,1},圖片數據分為源域數據和目標域數據,源域數據定義為目標域數據定義為
(2)建立深度網絡模型:所述模型基于深度卷積神經網絡建立,包括卷積層構成的特征提取器Gf、全連接層構成的標簽分類器Gy和領域判別器Gd;
(3)數據的前向傳播:特征提取器Gf對源域和目標域分別提取特征f,之后分兩路將各自領域特征向網絡更高層傳播:一路傳給標簽分類器Gy,另一路傳給領域判別器Gd;
(4)構造損失函數:建立對深度網絡模型參數進行更新的損失函數;
(4.1)計算標簽分類器的損失Ly;
(4.2)計算領域判別器的損失Ld;
(4.3)計算多核最大均值差異;
(4.4)計算全局損失函數L;
(5)模型訓練過程:使用mini-batch隨機梯度下降法進行參數更新;通過反向傳播訓練模型的特征提取器、標簽分類器與領域判別器。
2.根據權利要求1所述一種基于分布對抗的無監督深度領域適應方法,其特征在于,步驟(2)中所述特征提取器Gf負責提取特征f,f=Gf(x,θf);
所述標簽分類器Gy的預測值設為y′,y′=Gy(f,θy)
所述領域判別器Gd預測標簽設為d′,d′=Gd(f,θd);
其中,θf、θy與θd分別表示特征提取器、標簽分類器與領域判別器的網絡權值。
3.根據權利要求1所述一種基于分布對抗的無監督深度領域適應方法,其特征在于,步驟(3)中所述標簽分類器Gy由兩路全連接網絡組成,即源域與目標域全連接網絡,兩路網絡權重共享,結構相同;源域的全連接網絡通過源域標簽數據進行訓練,使其能夠進行標簽分類;
所述領域判別器Gd采用兩層全連接結構,作用為二分類器,能夠區分特征提取器Gf所提取的特征f所屬的領域。
4.根據權利要求1所述一種基于分布對抗的無監督深度領域適應方法,其特征在于,所述步驟(4.1)中標簽分類器損失的表達式為:
其中,ns為源域數據總個數,和分別表示源域第i個樣本和第i個樣本的類別標簽;LC(·,·)為交叉熵損失函數即表示最后一層分類層輸出的特征對應于所有類別的概率分布,表示源域第i個樣本屬于第e類的概率,C為類別總數。
5.根據權利要求1所述一種基于分布對抗的無監督深度領域適應方法,其特征在于,所述步驟(4.2)中領域判別器損失的表達式為:
其中,LD表示領域判別器交叉熵,xi和di分別表示第i個樣本和第i個樣本的域標簽,n表示樣本總數;
由此得到領域對抗網絡的目標函數表達式:
其中,ns,nt分別為源域與目標域數據個數,且ns+nt=n;λ為平衡系數,用來平衡分類損失和領域判別損失所占比例;Ds為源域數據,Dt為目標域數據;xi和di分別表示源域和目標域并集中的第i個樣本和第i個樣本的域標簽,和分別表示源域第i個樣本和第i個樣本的類別標簽。
該專利技術資料僅供研究查看技術是否侵權等信息,商用須獲得專利權人授權。該專利全部權利屬于中國礦業大學,未經中國礦業大學許可,擅自商用是侵權行為。如果您想購買此專利、獲得商業授權和技術合作,請聯系【客服】
本文鏈接:http://www.szxzyx.cn/pat/books/202110401067.6/1.html,轉載請聲明來源鉆瓜專利網。





