[發(fā)明專利]一種基于稀疏規(guī)則化的判別投影方法以及圖像識別裝置

有效

• 申請?zhí)枺?/td>: 201811625721.6
• 申請日: 2018-12-28
• 公開（公告）號: CN109615026B
• 公開（公告）日: 2020-11-17
• 發(fā)明（設(shè)計）人: 袁森
• 申請（專利權(quán)）人: 中國電子科技集團公司信息科學(xué)研究院
• 主分類號: G06K9/62
• 分類號: G06K9/62
• 代理公司: 北京中知法苑知識產(chǎn)權(quán)代理有限公司 11226
• 代理人: 李明

一種基于稀疏規(guī)則化的判別投影方法，其特征為：包括如下步驟，步驟1)構(gòu)建級聯(lián)字典和學(xué)習(xí)稀疏表征結(jié)構(gòu)；步驟2)保留稀疏表征結(jié)構(gòu)；步驟3)學(xué)習(xí)數(shù)據(jù)的局部和非局部結(jié)構(gòu)；步驟4)稀疏規(guī)則化辨別投影。本發(fā)明充分利用級聯(lián)字典學(xué)習(xí)數(shù)據(jù)的稀疏表示，避免了求解L1范數(shù)問題，大大減少了計算復(fù)雜度；通過非局部最大化和局部最小化充分考慮了數(shù)據(jù)的幾何拓?fù)浣Y(jié)構(gòu)。

技術(shù)領(lǐng)域

本發(fā)明公開了一種特征提取方法—稀疏規(guī)則化判別投影，其屬于生物特征提取和模式識別技術(shù)領(lǐng)域，涉及數(shù)據(jù)稀疏表示的學(xué)習(xí)、局部和非局部結(jié)構(gòu)的構(gòu)建、目標(biāo)函數(shù)的優(yōu)化，可用于圖像識別、數(shù)據(jù)挖掘、數(shù)據(jù)聚類。

背景技術(shù)

目前大多數(shù)非線性特征提取方法面臨著人為定義近鄰圖的問題，同時鄰域參數(shù)的選擇也直接關(guān)系著數(shù)據(jù)特征提取的質(zhì)量。到現(xiàn)在為止，一直沒有一個簡單而有效的標(biāo)準(zhǔn)來確定算法的鄰域參數(shù)。稀疏表示的出現(xiàn)，很好地避免了領(lǐng)域參數(shù)的選擇問題，它可以自適應(yīng)地獲取數(shù)據(jù)的近鄰關(guān)系。近年來一些學(xué)者把稀疏表示引入模式識別領(lǐng)域，用于處理特征提取或特征選擇、分類、聚類、目標(biāo)檢測和信息融合等問題。

稀疏表示和壓縮感知是由Donoho等人提出的一種新的信號表示和獲取框架，它激起了信息科學(xué)領(lǐng)域的廣泛研究熱情。稀疏表示將一個信號表示為字典中基本信號的稀疏線性組合，該稀疏線性組合中的系數(shù)向量被稱為稀疏系數(shù)向量。假設(shè)原始高維空間中的稀疏信號通過觀測矩陣對其做觀測得到低維空間中的觀測信號其中l(wèi)＜＜m。統(tǒng)計學(xué)中，著名的Lasso(Least absolute shrinkage and selection operator)算法也是建立在稀疏表示的思想上，通過約束回歸系數(shù)向量的L1范數(shù)小于給定常數(shù)，使得表示誤差的平方和最小，以達(dá)到獲取數(shù)據(jù)稀疏模型的目的。

鑒于稀疏學(xué)習(xí)對問題的高精準(zhǔn)建模能力，其已經(jīng)發(fā)展成為一種非常有力的圖像處理和模式識別工具。以稀疏學(xué)習(xí)為思想，Aharon等人提出了一種新的稀疏表示方法K-SVD，它在(1)基于當(dāng)前字典對樣本進行稀疏編碼和(2)更新字典中的原子以更好擬合樣本數(shù)據(jù)兩個步驟之間反復(fù)迭代直到收斂。Elad等人將 K-SVD推廣到圖像去噪問題中，并得到了很好的去燥效果。Mairal等人將非局部的思想和稀疏學(xué)習(xí)相結(jié)合提出了一種非局部稀疏模型，并將其成功應(yīng)用于圖像去噪等問題。Feng等人提出了一種將特征提取的投影矩陣和稀疏表示中的判別字典進行聯(lián)合學(xué)習(xí)的方法，并通過人臉識別實驗證明了該方法的有效性。

PCA作為最典型的維數(shù)約簡方法，為了保證其投影向量的稀疏性，學(xué)者們提出了稀疏主成分分析(Sparse PCA,SPCA)和非負(fù)稀疏主成分分析(Nonnegative SPCA,NSPCA)。為了保持稀疏重構(gòu)權(quán)重，Cheng等人提出了稀疏近鄰保持嵌入方法(Sparse neighborhoodpreserving projection,SNPE)。Qiao等人將稀疏表示與流形學(xué)習(xí)相結(jié)合，提出了一種基于稀疏學(xué)習(xí)的無監(jiān)督維數(shù)特征提取方法——稀疏保持投影(Sparsity PreservingProjections,SPP)，SPP通過一個基于L1正則化的目標(biāo)函數(shù)獲取數(shù)據(jù)的稀疏重構(gòu)關(guān)系，并最終以保持此稀疏重構(gòu)關(guān)系來來達(dá)到維數(shù)約簡的目的。一方面，SPP具有自動捕獲數(shù)據(jù)點鄰域關(guān)系的優(yōu)點；另一方面，即使在沒有樣本標(biāo)簽信息的情況下，基于SPP所獲得的投影仍然包含一定程度的判別信息。SPP作為非常典型的稀疏學(xué)習(xí)算法，缺點也是明顯的。

參見附圖1所示。稀疏保持投影(SPP)旨在通過保持?jǐn)?shù)據(jù)的稀疏表示結(jié)構(gòu)來實現(xiàn)維數(shù)約簡的目的，其具體流程圖如圖1所示。對于一個給定的訓(xùn)練樣本集X＝ {x₁,x₂,…,x_N}∈R^D×N，其中D表示特征維數(shù)，N表示樣本數(shù)。SPP首先通過求解下面的L1范數(shù)最小化問題來學(xué)習(xí)每一個樣本x_i的稀疏系數(shù)向量s_i:

min||s_i||₁