[發(fā)明專利]一種用于目標的在不同設備上鑒別的遷移學習方法

在審

• 申請?zhí)枺?/td>: 201810291322.4
• 申請日: 2018-03-30
• 公開（公告）號: CN108509998A
• 公開（公告）日: 2018-09-07
• 發(fā)明（設計）人: 林劍楚;李衛(wèi)軍;覃鴻
• 申請（專利權）人: 中國科學院半導體研究所;中國科學院大學
• 主分類號: G06K9/62
• 分類號: G06K9/62
• 代理公司: 中科專利商標代理有限責任公司 11021
• 代理人: 任巖

1.一種用于目標的在不同設備上鑒別的遷移學習方法，其特征在于，包括以下步驟：

S1、樣品建立序號，依次在不同設備上采集光譜數(shù)據(jù)；

S2、對不同設備上的光譜數(shù)據(jù)采用相同的數(shù)據(jù)集劃分；

S3、分別對不同設備上經過步驟S2處理的光譜數(shù)據(jù)建模，選出最好的模型；

S4、基于步驟S3得到的數(shù)據(jù)進行求解空間遷移矩陣；

S5、利用步驟S4中的空間遷移矩陣將性能較差設備的數(shù)據(jù)進行空間變換，重新訓練，保存相關參數(shù)。

2.根據(jù)權利要求1所述的遷移學習方法，其特征在于，在步驟S1中，采用透射或漫透射方式，在每臺光譜儀設備上以相同次序采集光譜數(shù)據(jù)，并獲得對應的標簽數(shù)據(jù)。

3.根據(jù)權利要求1所述的遷移學習方法，其特征在于，在步驟S2中，生成與樣本數(shù)量同樣大小且不重復的序列，同時將序列分成三個數(shù)據(jù)集：訓練集，驗證集和測試集；對應此序列，將每臺設備上所采集的數(shù)據(jù)分成三個數(shù)據(jù)集。

4.根據(jù)權利要求1所述的遷移學習方法，其特征在于，步驟S3包括：

S31、分別對不同設備上采集的數(shù)據(jù)進行光譜特征歸一化；

S32、將歸一化后的光譜數(shù)據(jù)降低維數(shù)，得到得分矩陣X_s及其變換矩陣ST；

S33、訓練模型；

S34、通過比較各個設備上數(shù)據(jù)所訓練模型的性能，獲得最優(yōu)的模型，保存該模型所有參數(shù)，以及得分矩陣X_S，以及其他設備上的得分矩陣和變換矩陣ST。

5.根據(jù)權利要求4所述的遷移學習方法，其特征在于，在步驟S31中，采用Zero-phasecomponent analysis方法將光譜數(shù)據(jù)進行強度標準化，得到歸一化后的光譜數(shù)據(jù)；光譜數(shù)據(jù)進行特征歸一化的計算公式為：

其中，X表示特征矩陣，表示特征矩陣X減去均值向量后的零均值矩陣，U表示空間的基，S表示對角矩陣，eps為一個微小常數(shù)，表示歸一化后的特征矩陣；

在步驟S32中，采用偏最小二乘回歸方法對光譜數(shù)據(jù)進行降維，得到得分矩陣X_s及其變換矩陣ST；對光譜數(shù)據(jù)進行降維的計算公式為：

其中，為歸一化后的特征矩陣，y為標簽數(shù)據(jù)，p為特征矩陣的投影方向，q為標簽數(shù)據(jù)y的投影方向，變換矩陣ST依據(jù)每次獲得的p計算得到，得分矩陣X_s為經ST投影后的矩陣；

步驟S33包括：

S331、將降維后的光譜數(shù)據(jù)輸入神經網絡，調節(jié)神經網絡參數(shù)；

S332、神經網絡參數(shù)微調及性能評價。

6.根據(jù)權利要求5所述的遷移學習方法，其特征在于，在步驟S331中，采用L2范數(shù)正則化反向傳播神經網絡方法對降維后的光譜數(shù)據(jù)進行特征分類，其代價函數(shù)的形式為：

式中，m表示樣本數(shù)量，xⁱ表示第i個樣本，yⁱ表示第i個樣本的標簽數(shù)據(jù)的真值，h_θ(·)為神經網絡的模型假說，λ為懲罰參數(shù)，θ表示模型待學習參數(shù)。

7.根據(jù)權利要求6所述的遷移學習方法，其特征在于，模型待學習參數(shù)θ采用隨機方式初始化，其更新公式為：

式中，ε為學習速率參數(shù)，J_b為代價函數(shù)。

8.根據(jù)權利要求4所述的遷移學習方法，其特征在于，在步驟S4中，空間遷移矩陣S的計算公式為：

其中，令最優(yōu)模型為第j個設備，依次對其他多個設備經行計算，分別為不同設備Ii，Ij上的得分矩陣，Ij為識別性能最高的設備，Ii為識別性能較差的設備。

9.根據(jù)權利要求4所述的遷移學習方法，其特征在于，步驟S5包括：

S51、對性能較差設備的數(shù)據(jù)進行空間遷移變換；

S52、重新訓練，保存相關參數(shù)。

10.根據(jù)權利要求9所述的遷移學習方法，其特征在于，在步驟S51中，對性能較差設備的數(shù)據(jù)進行空間遷移變換的計算公式為：

其中，為得分矩陣經過空間變換矩陣S后的新得分矩陣。依次，對驗證集和測試集的得分矩陣進行同樣變換。