[發(fā)明專利]一種基于稀疏規(guī)則化的判別投影方法以及圖像識(shí)別裝置

有效

• 申請(qǐng)?zhí)枺?/td>: 201811625721.6
• 申請(qǐng)日: 2018-12-28
• 公開(kāi)（公告）號(hào): CN109615026B
• 公開(kāi)（公告）日: 2020-11-17
• 發(fā)明（設(shè)計(jì)）人: 袁森
• 申請(qǐng)（專利權(quán)）人: 中國(guó)電子科技集團(tuán)公司信息科學(xué)研究院
• 主分類號(hào): G06K9/62
• 分類號(hào): G06K9/62
• 代理公司: 北京中知法苑知識(shí)產(chǎn)權(quán)代理有限公司 11226
• 代理人: 李明

一種基于稀疏規(guī)則化的判別投影方法，其特征為：包括如下步驟，步驟1)構(gòu)建級(jí)聯(lián)字典和學(xué)習(xí)稀疏表征結(jié)構(gòu)；步驟2)保留稀疏表征結(jié)構(gòu)；步驟3)學(xué)習(xí)數(shù)據(jù)的局部和非局部結(jié)構(gòu)；步驟4)稀疏規(guī)則化辨別投影。本發(fā)明充分利用級(jí)聯(lián)字典學(xué)習(xí)數(shù)據(jù)的稀疏表示，避免了求解L1范數(shù)問(wèn)題，大大減少了計(jì)算復(fù)雜度；通過(guò)非局部最大化和局部最小化充分考慮了數(shù)據(jù)的幾何拓?fù)浣Y(jié)構(gòu)。

技術(shù)領(lǐng)域

本發(fā)明公開(kāi)了一種特征提取方法—稀疏規(guī)則化判別投影，其屬于生物特征提取和模式識(shí)別技術(shù)領(lǐng)域，涉及數(shù)據(jù)稀疏表示的學(xué)習(xí)、局部和非局部結(jié)構(gòu)的構(gòu)建、目標(biāo)函數(shù)的優(yōu)化，可用于圖像識(shí)別、數(shù)據(jù)挖掘、數(shù)據(jù)聚類。

背景技術(shù)

目前大多數(shù)非線性特征提取方法面臨著人為定義近鄰圖的問(wèn)題，同時(shí)鄰域參數(shù)的選擇也直接關(guān)系著數(shù)據(jù)特征提取的質(zhì)量。到現(xiàn)在為止，一直沒(méi)有一個(gè)簡(jiǎn)單而有效的標(biāo)準(zhǔn)來(lái)確定算法的鄰域參數(shù)。稀疏表示的出現(xiàn)，很好地避免了領(lǐng)域參數(shù)的選擇問(wèn)題，它可以自適應(yīng)地獲取數(shù)據(jù)的近鄰關(guān)系。近年來(lái)一些學(xué)者把稀疏表示引入模式識(shí)別領(lǐng)域，用于處理特征提取或特征選擇、分類、聚類、目標(biāo)檢測(cè)和信息融合等問(wèn)題。

稀疏表示和壓縮感知是由Donoho等人提出的一種新的信號(hào)表示和獲取框架，它激起了信息科學(xué)領(lǐng)域的廣泛研究熱情。稀疏表示將一個(gè)信號(hào)表示為字典中基本信號(hào)的稀疏線性組合，該稀疏線性組合中的系數(shù)向量被稱為稀疏系數(shù)向量。假設(shè)原始高維空間中的稀疏信號(hào)通過(guò)觀測(cè)矩陣對(duì)其做觀測(cè)得到低維空間中的觀測(cè)信號(hào)其中l(wèi)＜＜m。統(tǒng)計(jì)學(xué)中，著名的Lasso(Least absolute shrinkage and selection operator)算法也是建立在稀疏表示的思想上，通過(guò)約束回歸系數(shù)向量的L1范數(shù)小于給定常數(shù)，使得表示誤差的平方和最小，以達(dá)到獲取數(shù)據(jù)稀疏模型的目的。

鑒于稀疏學(xué)習(xí)對(duì)問(wèn)題的高精準(zhǔn)建模能力，其已經(jīng)發(fā)展成為一種非常有力的圖像處理和模式識(shí)別工具。以稀疏學(xué)習(xí)為思想，Aharon等人提出了一種新的稀疏表示方法K-SVD，它在(1)基于當(dāng)前字典對(duì)樣本進(jìn)行稀疏編碼和(2)更新字典中的原子以更好擬合樣本數(shù)據(jù)兩個(gè)步驟之間反復(fù)迭代直到收斂。Elad等人將 K-SVD推廣到圖像去噪問(wèn)題中，并得到了很好的去燥效果。Mairal等人將非局部的思想和稀疏學(xué)習(xí)相結(jié)合提出了一種非局部稀疏模型，并將其成功應(yīng)用于圖像去噪等問(wèn)題。Feng等人提出了一種將特征提取的投影矩陣和稀疏表示中的判別字典進(jìn)行聯(lián)合學(xué)習(xí)的方法，并通過(guò)人臉識(shí)別實(shí)驗(yàn)證明了該方法的有效性。

PCA作為最典型的維數(shù)約簡(jiǎn)方法，為了保證其投影向量的稀疏性，學(xué)者們提出了稀疏主成分分析(Sparse PCA,SPCA)和非負(fù)稀疏主成分分析(Nonnegative SPCA,NSPCA)。為了保持稀疏重構(gòu)權(quán)重，Cheng等人提出了稀疏近鄰保持嵌入方法(Sparse neighborhoodpreserving projection,SNPE)。Qiao等人將稀疏表示與流形學(xué)習(xí)相結(jié)合，提出了一種基于稀疏學(xué)習(xí)的無(wú)監(jiān)督維數(shù)特征提取方法——稀疏保持投影(Sparsity PreservingProjections,SPP)，SPP通過(guò)一個(gè)基于L1正則化的目標(biāo)函數(shù)獲取數(shù)據(jù)的稀疏重構(gòu)關(guān)系，并最終以保持此稀疏重構(gòu)關(guān)系來(lái)來(lái)達(dá)到維數(shù)約簡(jiǎn)的目的。一方面，SPP具有自動(dòng)捕獲數(shù)據(jù)點(diǎn)鄰域關(guān)系的優(yōu)點(diǎn)；另一方面，即使在沒(méi)有樣本標(biāo)簽信息的情況下，基于SPP所獲得的投影仍然包含一定程度的判別信息。SPP作為非常典型的稀疏學(xué)習(xí)算法，缺點(diǎn)也是明顯的。

參見(jiàn)附圖1所示。稀疏保持投影(SPP)旨在通過(guò)保持?jǐn)?shù)據(jù)的稀疏表示結(jié)構(gòu)來(lái)實(shí)現(xiàn)維數(shù)約簡(jiǎn)的目的，其具體流程圖如圖1所示。對(duì)于一個(gè)給定的訓(xùn)練樣本集X＝ {x₁,x₂,…,x_N}∈R^D×N，其中D表示特征維數(shù)，N表示樣本數(shù)。SPP首先通過(guò)求解下面的L1范數(shù)最小化問(wèn)題來(lái)學(xué)習(xí)每一個(gè)樣本x_i的稀疏系數(shù)向量s_i:

min||s_i||₁