[發明專利]一種具備極大化知識利用能力的半監督圖像分類方法

在審

• 申請號: 201710483627.0
• 申請日: 2017-06-22
• 公開（公告）號: CN107392230A
• 公開（公告）日: 2017-11-24
• 發明（設計）人: 錢鵬江;奚臣;蔣亦樟;鄧趙紅;王駿;王士同
• 申請（專利權）人: 江南大學
• 主分類號: G06K9/62
• 分類號: G06K9/62
• 代理公司: 北京科億知識產權代理事務所(普通合伙)11350
• 代理人: 湯東鳳

技術領域

本發明屬于圖像處理及應用領域，具體是一種具備極大化知識利用能力的半監督圖像分類方法。

背景技術

支持向量機(Support Vector Machine,SVM)是20世紀90年代以后逐步發展起來的一種基于統計學習理論的機器學習方法，堅實的理論基礎使其成功地解決了機器學習中普遍存在的“維數災難”和“過擬合”問題，并具有良好的泛化能力，已經在許多實際工程領域中展示了良好的應用前景。然而傳統的SVM作為一種有監督的學習方法,只能在少量的有標號的樣本上進行學習,從而在一定程度上導致學習不太充分,在一定程度上影響了該方法對具體模式進行識別的能力。如果能把半監督學習思想引入支持向量機中，將會彌補標準支持向量機的缺陷，獲得更好的分類效果。

傳統的機器學習技術分為兩類，一類是無監督學習，一類是監督學習。無監督學習只利用未標記的樣本集，而監督學習則只利用標記的樣本集進行學習。但在很多實際問題中，只有少量的帶有標記的數據，因為對樣本進行類別標記往往需要耗費大量的人力物力，代價有時很高，而大量的未標記的數據卻很容易得到。這就促使能同時利用標記樣本和未標記樣本的半監督學習技術迅速發展起來。基于支持向量機延伸的半監督支持向量機算法就有較好的效果。

圖像分類是將圖像分到預先設定的不同類別中。對于計算機而言，識別并分類是較為困難的。原因是兩方面的，一是圖像數據方面的，圖像里充滿了大量復雜多樣且難以描述的對象，由原始圖像到模式識別方法里具體的數據的數據處理和特征選擇方法多樣；二是具體分類方法的選擇，分類方法多種多樣，各有優缺。對于圖像分類而言，一般做法是從第一個方面出發，在數據預處理和特征選擇的過程中盡可能找出合適的特征選擇方法，再利用一些經典的分類方法例如SVM進行圖像分類，但這種方法的前提是往往需要盡可能多的、訓練分類器所需要的、劃分明確的、且特征選擇合適的標記數據，那這種代價往往是較高的。那么從分類方法的選擇出發，半監督支持向量機往往具有較好的分類效果。

發明內容

本發明的目的在通過更為有效和深入的挖掘有標記的和無標記圖像樣本數據從而提高機器的圖像分類能力。

按照本發明提供的技術方案，所述具備極大化知識利用能力的半監督圖像分類方法，包含如下定義和步驟：

定義：

定義1：數據集表示分類器訓練用樣本的集合，d為數據維度，l為有標簽的樣本數量和u為無標簽樣本數量；

定義2：y_i∈{+1,-1}(i＝1,...,l)表示數據集X的l個有標簽樣本對應的樣本標簽；

定義3：表示分類決策函數，其中α_i≥0是支撐向量指示器元素，b是一常數，K()為核函數，常取徑向基核函數：K(x_i,x_j)＝exp(-||x_i-x_j||²/2σ²),i∈[1,l],j∈[1,l+u]，σ為核寬帶；

定義4：f＝[f₁,...,f_l,f_l+1,...,f_l+u]^T為數據集根據分類決策函數得到的預測值；

定義5：成對約束集MS(Must-Link Set，必須連接集)和CS(Cannot-Link Set，不能連接集)這里由提供的樣本標簽轉換過來的，轉換形式如圖2；

定義6：L＝D-W是圖拉普拉斯矩陣，其中W＝[W_ij]_(u+l)×(u+l)為數據集X鄰接矩陣，且

D成為對角矩陣，且

定義7：定義矩陣Z＝H-Q，其中Q＝[Q_ij]_(u+l)×(u+l)表示標記樣本間的成對約束關系矩陣，其矩陣元素Q_ij的計算如式(2)，H是對角矩陣，H＝diag(Q·1_(l+u)×1)，1_(l+u)×1為(l+u)×1的向量且元素全為1；

其中|MS|表示必須連接集的記錄容量，|CS|則表示不能連接集的記錄容量；

定義8：定義流形正則化(Manifold Regularization)形式為

定義9：成對約束正則化形式：