[發明專利]基于遷移學習解決在線復雜優化計算的稀疏特征學習方法

有效

• 申請號: 202010951143.6
• 申請日: 2020-09-11
• 公開（公告）號: CN112070236B
• 公開（公告）日: 2022-08-16
• 發明（設計）人: 于元隆;孫真真
• 申請（專利權）人: 福州大學
• 主分類號: G06N20/00
• 分類號: G06N20/00;G06N3/08;G06N3/04
• 代理公司: 福州元創專利商標代理有限公司 35100
• 代理人: 陳明鑫;蔡學俊

本發明涉及一種基于遷移學習解決在線復雜優化計算的稀疏特征學習方法，包括以下步驟:步驟S1:采集數據集，對于圖像數據，先將其向量化作為訓練集樣本；步驟S2:在源域中，采用同倫迭代硬閾值算法求解訓練集的稀疏特征;步驟S3:將源域中得到的稀疏特征遷移到目標域作為真值，訓練目標域中單隱層神經網絡輸入層與隱藏層之間的輸入權重；步驟S4:根據得到的輸入權重，計算訓練樣本的近似稀疏特征，并根據近似稀疏特征和訓練樣本的類別標簽矩陣，訓練線性分類模型；步驟S5:將待測樣本進行預處理后輸入分類器，計算得到待測樣本的分類標簽。本發明能夠有效提高分類精度和效率。

技術領域

本發明涉及信號特征表達學習領域，具體涉及一種基于解決在線復雜優化計算的稀疏特征學習方法。

背景技術

機器學習的本質是使機器能夠模擬或實現人類的學習能力，特征表達學習亦是如此。視覺是人類最重要的信息接收系統，我們每時每刻都在通過眼睛感知外部世界豐富多彩的信息，據統計，外部世界信息約有80％～90％是通過視覺系統感知到的。人類神經學的研究表明，人眼視覺神經系統(HVS)可看作是一種高效且合理的圖像處理系統。在人眼視覺神經系統中，從視網膜到大腦皮層存在一系列簡單的神經元，以“感受域”模式描述。感受域是視覺神經系統處理信息的功能單元和基本結構，是視網膜上能引起或調節視覺細胞響應刺激的區域。生物學研究明白，哺乳動物的主視皮層V1區神經元的感受域能對視覺感知信號產生一種“稀疏表達”(Sparse Representation，SR)。自此，用于求解信號稀疏特征表達的稀疏編碼技術得到了廣泛的應用，在語音信號處理、盲源信號分離、自然圖像去噪、自然圖像特征提取以及模式識別等方面取得許多的研究成果，具有重要的實用價值，是當前學術界的一個研究熱點。

發明內容

有鑒于此，本發明的目的在于提供一種基于遷移學習解決在線復雜優化計算的稀疏特征學習方法，在提高稀疏特征學習效率的同時能夠有效保持所學特征的性能，能夠有效提高分類精度和效率。

為實現上述目的，本發明采用如下技術方案：

一種基于遷移學習解決在線復雜優化計算的稀疏特征學習方法，包括以下步驟:

步驟S1:采集數據集，對于圖像數據，先將其向量化并預處理，作為訓練集樣本；

步驟S2:在源域中，采用同倫迭代硬閾值算法求解訓練集的稀疏特征；

步驟S3:將源域中得到的稀疏特征遷移到目標域作為真值，訓練目標域中單隱層神經網絡輸入層與隱藏層之間的輸入權重；

步驟S4:根據得到的輸入權重，計算訓練樣本的近似稀疏特征，并根據近似稀疏特征和訓練樣本的類別標簽矩陣，訓練線性分類模型；

步驟S5:將待測樣本進行預處理后輸入分類器，計算得到待測樣本的分類標簽。

進一步的，所述步驟S2具體為：

步驟S21:對于輸入訓練集X＝{x₁，x₂，...，x_N}∈R^p×N，對于每一個樣本x_i∈R^p優化下列目標函數：

其中，D∈R^p×K表示過完備字典，α_i∈R^K為x_i的稀疏特征，λ為正則系數；

步驟S22:根據硬閾值算子，得到解析解：

其中，[·]_i表示向量的第i個元素，t表示迭代次數，L表示的Lipschitz常數的上界。

進一步的，所述步驟S3具體為：