[發明專利]基于異構遷移學習的特征增強方法、裝置及存儲介質

在審

• 申請號: 202111320801.2
• 申請日: 2021-11-09
• 公開（公告）號: CN114154642A
• 公開（公告）日: 2022-03-08
• 發明（設計）人: 張忠平;王永斌;肖益珊;季文翀;叢煜華;鄭濤
• 申請（專利權）人: 宜通世紀科技股份有限公司
• 主分類號: G06N20/00
• 分類號: G06N20/00
• 代理公司: 廣州嘉權專利商標事務所有限公司 44205
• 代理人: 余凱歡

本發明公開了基于異構遷移學習的特征增強方法、裝置及存儲介質，方法包括：從多個源域進行第一特征提取，得到第一特征集合；從目標域進行第二特征提取，得到第二特征集合；根據預設的原始特征、所述第一特征集合和所述第二特征集合，在異構特征空間進行所述源域和所述目標域之間的遷移學習，構建得到基于遷移學習的異構特征空間；其中，所述基于遷移學習的異構特征空間用于進行特征提取。本發明將原始特征與源域和目標域中提取的特征進行結合，能夠在提高遷移學習性能的基礎上解決負遷移的問題，可廣泛應用于人工智能技術領域。

技術領域

本發明涉及人工智能技術領域，尤其是基于異構遷移學習的特征增強方法、裝置及存儲介質。

背景技術

隨著中國社會經濟的飛速發展，科學技術日新月異。深度學習技術在越來越多的應用場景中發揮著重要的作用。無論是大家所熟悉的面部識別還是近些年比較流行的無人駕駛和比較前沿的基于圖片的意圖推理等等，這些成果都離不開深度學習技術。比如計算機視覺中的圖像識別技術已經超越了人類，越來越多的優秀的算法和模型在逐漸的嶄露頭角。這些技術的是現實需要依靠比較昂貴的成本，且技術的自適應性比較差。這就導致了訓練好的模型只能在單一的任務或者特定的數據集上表現良好。目前需要解決的問題是怎么樣將這些已經訓練好了的模型或者算法應用到其他領域。這樣不僅可以節省計算資源，而且可以減少用戶的使用等待時間，這是一項非常必要的且具有很大的價值。

從相關的背景技術介紹可以得知，目前的遷移學習主要有以下幾種：基于樣本的遷移學習方法，基于特征的遷移學習方法，基于關系的遷移學習方法以及基于模型的遷移學習方法。基于樣本的遷移學習主要是從樣本的角度出發，遷移數據之間的特性，從而在目標任務中取得比較好的成果。基于特征的遷移學習方法主要是從樣本數據的內在特征出發，將樣本特征的共性和差異性表示出來，從而實現更好的泛化性能。基于關系的遷移學習方法更多的是站在整體的角度出發，對于多個數據集之間的關系進行很好的評估，從而找到相似之處。基于模型的遷移學習方法，主要是對于那些已經訓練好了的模型，在另外的數據集上的應用已經是達到了比較好的效果，在相似的數據集上只需要進行一定的參數調整即可獲得比較好的效果。

基于增強特征映射的異構遷移學習中仍然面臨著負遷移的風險，尤其是在異構域相關程度不高的情況下。

現有的很多方法包含很多的基于隱空間的特征學習方法，根據給定的源域和目標域觀察到的特征表示，提取源域和目標域可遷移的隱變量，這種方法通過將目標域映射到可遷移的隱變量張成的隱空間中，利用這些隱變量對一個或者多個源域的知識進行編碼，通過這種方法豐富目標域的特征表示，進而提高各種任務中的性能。但是這種單純的依賴映射的做法會導致負遷移問題，從而影響最終的結果。

發明內容

有鑒于此，本發明實施例提供基于異構遷移學習的特征增強方法、裝置及存儲介質，以解決負遷移的問題。

本發明的一方面提供了一種基于異構遷移學習的特征增強方法，包括：

從多個源域進行第一特征提取，得到第一特征集合；

從目標域進行第二特征提取，得到第二特征集合；

根據預設的原始特征、所述第一特征集合和所述第二特征集合，在異構特征空間進行所述源域和所述目標域之間的遷移學習，構建得到基于遷移學習的異構特征空間；

其中，所述基于遷移學習的異構特征空間用于進行特征提取。

可選地，所述根據預設的原始特征、所述第一特征集合和所述第二特征集合，在異構特征空間進行所述源域和所述目標域之間的遷移學習，構建得到基于遷移學習的異構特征空間，包括：

將所述源域和所述目標域的隱空間映射到一個共享隱空間中，所述共享隱空間中還包括所述原始特征。

可選地，所述將所述源域和所述目標域的隱空間映射到一個共享隱空間中，包括：