[發(fā)明專利]基于特征解耦的多源域適應(yīng)方法

在審

• 申請?zhí)枺?/td>: 202110890031.9
• 申請日: 2021-08-04
• 公開（公告）號: CN113486987A
• 公開（公告）日: 2021-10-08
• 發(fā)明（設(shè)計）人: 徐行;張明;邵杰
• 申請（專利權(quán)）人: 電子科技大學(xué)
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06F17/16;G06N3/04;G06N3/08
• 代理公司: 北京中濟緯天專利代理有限公司 11429
• 代理人: 郝迎賓

1.基于特征解耦的多源域適應(yīng)方法，其特征在于，包括如下步驟：

步驟1.分別提取各個域圖像的域共享特征和域私有特征，獲取提取損失函數(shù)，通過正交解耦，使得域私有特征和域共享特征各個維度的表示互相獨立，所述域包括一個目標域和多個源域；

步驟2.搭建并訓(xùn)練分類器，使分類器通過第一分類損失函數(shù)對源域的域共享特征正確分類，并使分類器通過第二分類損失函數(shù)對源域的域私有特征無法正確分類；

步驟3.搭建并訓(xùn)域判別器，使域判別器通過域判別器交叉熵損失函數(shù)無法正確區(qū)分域共享特征來自源域還是目標域；

步驟4.搭建解碼器，通過解碼器的回歸損失函數(shù)對域共享特征和域私有特征的組合進行解碼，使域共享特征和域私有特征耦合，重構(gòu)回原始表示；

步驟5.計算所有損失函數(shù)的總損失函數(shù)；

步驟6.對步驟1-5組成的模型進行整體訓(xùn)練；

步驟7.利用所述進行整體訓(xùn)練好后的模型對不帶標簽的需要分類的目標域圖像進行分類。

2.根據(jù)權(quán)利要求1所述的基于特征解耦的多源域適應(yīng)方法，其特征在于，步驟1具體包括如下步驟：

步驟101.獲取包含多個域的圖像數(shù)據(jù)，將其中一個域作為目標域，目標域樣本記為，其余m個域作為源域，，源域的樣本記為；

步驟102.所有域用一個公共的域共享編碼器提取域共享特征，其中，各個域用各自的一個域私有編碼器提取域私有特征，其中，圖像特征經(jīng)過特征提取后均以向量的形式存在；

步驟103.構(gòu)建矩陣和，矩陣和的行向量分別為源域的域共享特征和目標域的域共享特征；

步驟104.構(gòu)建矩陣和，和的行向量分別為源域的域私有特征和目標域的域私有特征；

步驟105.將矩陣的轉(zhuǎn)置矩陣與矩陣相乘，矩陣的轉(zhuǎn)置矩陣與矩陣相乘，兩個乘積相加，獲取提取損失函數(shù)，表示為：

；

其中，是Frobenius范數(shù)的平方；

步驟106.最小化提取損失函數(shù)，即促使域私有特征向量和域共享特征向量正交，以使得域私有特征和域共享特征向量的每一個維度都彼此獨立，完成域私有特征和域共享特征的解耦。

3.根據(jù)權(quán)利要求1所述的基于特征解耦的多源域適應(yīng)方法，其特征在于，步驟2中，搭建分類器C，并通過源域中的圖像數(shù)據(jù)訓(xùn)練，所述分類器包括多個人工神經(jīng)網(wǎng)絡(luò)的全連接層，全連接層后接softmax激活函數(shù)，所述源域中的圖像數(shù)據(jù)含有類別標簽。

4.根據(jù)權(quán)利要求3所述的基于特征解耦的多源域適應(yīng)方法，其特征在于，步驟2中，搭建好分類器后，訓(xùn)練分類器，使分類器通過第一分類損失函數(shù)對源域的域共享特征正確分類，具體是指：

輸入源域的域共享特征，通過最小化分類器輸出和源域特征的類別標簽的交叉熵損失，使分類器獲得對域共享特征的多分類能力，能夠?qū)颖镜挠蚬蚕硖卣鬟M行正確分類；

其中，第一分類損失函數(shù)定義為一個batch內(nèi)源域樣本分類交叉熵損失的均值，表示為：

其中，為一個batch輸入源域樣本總的數(shù)量，為單個源域樣本的one-hot形式的類別標簽，為經(jīng)過softmax激活函數(shù)之后的分類器的對域共享特征類別預(yù)測結(jié)果，具體定義為：

其中，表示softmax激活函數(shù)。

5.根據(jù)權(quán)利要求4所述的基于特征解耦的多源域適應(yīng)方法，其特征在于，步驟2中，搭建好分類器后，訓(xùn)練分類器，使分類器通過第二分類損失函數(shù)對源域的域私有特征無法正確分類，具體是指：

將源域私有特征輸入經(jīng)過源域共享特征預(yù)訓(xùn)練好的分類器，最小化分類器輸出和源域特征的類別標簽的交叉熵損失，通過梯度反轉(zhuǎn)層，讓梯度反向傳播到域私有編碼器的參數(shù)之前自動取反，使得域私有特征提取器朝著最大化交叉熵損失的方向優(yōu)化；

其中，第二分類損失函數(shù)的定義如下：

其中，為經(jīng)過softmax激活函數(shù)之后的分類器的對域私有特征的類別預(yù)測結(jié)果，

表示為：

其中，R代表梯度反轉(zhuǎn)層，其數(shù)學(xué)表達為：

其中，代表單位矩陣，在梯度反轉(zhuǎn)層中，參數(shù)是動態(tài)變化的，其變化表達式如下式所示：

其中，代表訓(xùn)練進程相對值，即當(dāng)前迭代次數(shù)與總迭代次數(shù)的比值，為常數(shù)10。