[發明專利]一種基于類相關矩陣特征值分解的域自適應方法

在審

• 申請號: 202111079811.1
• 申請日: 2021-09-15
• 公開（公告）號: CN113822353A
• 公開（公告）日: 2021-12-21
• 發明（設計）人: 樊敏;蔡子贇;張騰飛;王保云
• 申請（專利權）人: 南京郵電大學
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06N3/04;G06N3/08
• 代理公司: 南京蘇科專利代理有限責任公司 32102
• 代理人: 姚姣陽

一種基于類相關矩陣特征值分解的域自適應方法。該種域自適應方法，解決了源域和目標域之間的欠適配和不平等問題，使得對參數的選擇敏感度降低，而收斂度更高分類精度更加準確。該種域自適應方法，與現有的經典分類方法相比，能夠做出更準確的判斷。本發明方法并沒有使用過于繁雜的函數設計，使得網絡的訓練時間大大縮短。本發明方法使用基于對抗性的方法，使得特征提取器和分類器能夠自動學習目標域和源域之間的度量區別。而不是通過人為定義，避免了可能出現的人工偏差。

技術領域

本發明屬于計算機視覺技術領域，具體涉及一種基于類相關矩陣特征值分解的域自適應方法。

背景技術

在科技日益發達的今天，機器學習為我們增添了許多便利。但是機器學習的應用需要良好的標注數據，如果使用人工標注那將花費大量的時間與金錢，并且因為人與人之間的區別可能導致一些模棱兩可的標注出現。為了避免這一現象，很多研究人員提出了遷移學習。遷移學習是指將一個領域學習到的知識遷移到另一個領域使用，并且能夠起到良好效果。而域自適應屬于遷移學習中的一個特殊情況，它要求兩個領域的任務是一致的。

域自適應的問題定義為：給定兩個域，分別為源域D_s和目標域D_t，各自的分布為P(Y^s|X^s)和P(Y^t|X^t)，源域和目標域的分布是不同的。給定有標注的源域數據(X^s，Y^s)和無標注的目標域數據X^t，目標是對目標域數據進行良好分類。

如果不考慮域自適應，直接使用在源域數據上訓練出的分類網絡，將會導致一定程度的性能下降，這是由于源域和目標域存在一定程度的分布差異。而域自適應就是為了降低由于源域和目標域存在一定程度的分布差異而給分類網絡帶來的損耗。

發明內容

本發明所要解決的技術問題是克服現有技術的不足，提供一種基于類相關矩陣特征值分解的域自適應方法，使用基于對抗性的方法，使得特征提取器和分類器能夠自動學習目標域和源域之間的度量區別，避免了可能出現的人工偏差。

本發明提供一種基于類相關矩陣特征值分解的域自適應方法，包括如下步驟，

步驟S1、設定一個源域D_s＝(X^s，Y^s)和目標域D_t＝(X^t)；

步驟S2、基于GANs利用對抗性訓練同時訓練特征提取器F和域分類器D，最后通過標簽分類器G對樣本進行分類；

步驟S3、用Resnet50作為特征提取器，將源域樣本x_s和目標域樣本x_t輸入Resnet50提取出的特征分別記為f_s和f_t，f_g和f_t再輸入標簽分類器G得到g_s和g_t；將整個網絡公式化為具有兩個競爭誤差項的極小極大優化問題，第一，E(G)是最小化標簽分類器G上的源域分類風險；第二，E(D，G)在D上最小化，但在特征提取器F和標簽分類器G上最大化，則，

在式中，L(·)代表交叉熵損失函數，總的優化目標為：

min_GE(G)-λE(d，G)，

min_DE(D，G)；

通過聯合變量h＝(f，g)在標簽分類器的預測g上調節域鑒別器D；

步驟S4、目標域上的分類器輸出為其中B是目標數據的批量大小，|C|是源類的數量，F是特征提取器，G是標簽分類器；第i個實例屬于第j類的概率Y_ij為