[發明專利]基于遷移學習解決在線復雜優化計算的稀疏特征學習方法

有效

• 申請號: 202010951143.6
• 申請日: 2020-09-11
• 公開（公告）號: CN112070236B
• 公開（公告）日: 2022-08-16
• 發明（設計）人: 于元隆;孫真真
• 申請（專利權）人: 福州大學
• 主分類號: G06N20/00
• 分類號: G06N20/00;G06N3/08;G06N3/04
• 代理公司: 福州元創專利商標代理有限公司 35100
• 代理人: 陳明鑫;蔡學俊

1.一種基于遷移學習解決在線復雜優化計算的稀疏特征學習方法，其特征在于，包括以下步驟:

步驟S1:采集數據集，對于圖像數據，先將其轉化為向量作為訓練集樣本；

步驟S2:在源域中，采用同倫迭代硬閾值算法求解訓練集的稀疏特征；

步驟S3:將源域中得到的稀疏特征遷移到目標域作為真值，訓練目標域中單隱層神經網絡輸入層與隱藏層之間的輸入權重；

步驟S4:根據得到的輸入權重，計算訓練樣本的近似稀疏特征，并根據近似稀疏特征和訓練樣本的類別標簽矩陣，訓練線性分類模型；

步驟S5:計算待測樣本的近似稀疏特征并將其輸入分類器，計算得到待測樣本的分類標簽；

所述步驟S2具體為：

步驟S21:對于輸入訓練集X＝{x₁，x₂，...，x_N} ∈R^p×N，對于每一個樣本x_i∈R^p優化下列目標函數：

其中，D∈R^p×K表示過完備字典，α_i∈R^K為x_i的稀疏特征，λ為正則系數；

步驟S22:根據硬閾值算子，得到解析解：

其中，[·]_i表示向量的第i個元素，t表示迭代次數，L表示的Lipschitz常數的上界；

所述步驟S3具體為：

步驟S31：給定輸入樣本X＝{x₁，x₂，...，x_N}∈R^p×N及其對應的稀疏特征集A＝{α₁，α₂，...，α_N}∈R^K×N，該神經網絡的目標函數表示為：

其中，g(.)表示激活函數，W∈R^d*K表示輸入層與隱藏層之間的權重矩陣，常數C₁作為正則項因子；

步驟S32：根據激活函數的形式是否已知，采用對應模型的學習隱藏層特征；

所述步驟S4具體為：

步驟S41：根據神經網絡的輸入權重W，計算訓練樣本的近似稀疏特征

步驟S42：根據和訓練樣本的類別標簽矩陣T＝[t₁，…，t_N]^T，訓練線性分類模型，目標函數為：

其中，β＝[β₁，...，β_K]^T表示分類器的模型參數，C₂為正則系數。

2.根據權利要求1所述的基于遷移學習解決在線復雜優化計算的稀疏特征學習方法，其特征在于，所述步驟S32具體為：

(1)如果激活函數的形式已知，選擇tanh函數作為激活函數，即g(x)＝tanh(x)；令tanh(W^TX)＝A，則W^TX＝arctanh(A)＝Z，此時目標函數轉化為：

根據嶺回歸模型，權重W可計算為：

其中，I∈R^N×N為單位矩陣；

(2)如果激活函數的形式未知，根據Mercer條件采用核技術計算測試樣本x_test的特征

其中：

φ表示核函數。

3.根據權利要求1所述的基于遷移學習解決在線復雜優化計算的稀疏特征學習方法，其特征在于，所述核函數采用高斯函數：

其中，σ表示高斯函數的標準差。

4.根據權利要求1所述的基于遷移學習解決在線復雜優化計算的稀疏特征學習方法，其特征在于，所述β具體為：