[發明專利]分類優化方法及裝置

在審

• 申請號: 201811243820.8
• 申請日: 2018-10-24
• 公開（公告）號: CN109447146A
• 公開（公告）日: 2019-03-08
• 發明（設計）人: 蘇燦平;余清洲;許清泉;洪煒冬;張偉
• 申請（專利權）人: 廈門美圖之家科技有限公司
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06N3/04;G06N3/08
• 代理公司: 北京超凡志成知識產權代理事務所(普通合伙) 11371
• 代理人: 唐維虎

本申請實施例提供一種分類優化方法及裝置，該方法包括：對預先構建的神經網絡進行初始化處理，構建參數矩陣，利用參數矩陣對神經網絡中的分類層參數進行正交初始化處理；將訓練圖像導入至所述神經網絡，獲得訓練圖像經過網絡層后輸出的特征向量；根據參數矩陣及特征向量計算得到損失函數；根據該損失函數對各網絡層對應的網絡層權值以及分類層對應的分類層權值進行梯度計算以更新網絡層權值及分類層權值；根據更新網絡層權值及分類層權值后的神經網絡對輸入圖像進行訓練。該分類優化方案增加了類別參數之間的相互正交的約束，促使不同類別相對獨立，使得神經網絡模型更具判別性。

技術領域

本發明涉及圖像識別技術領域，具體而言，涉及一種分類優化方法及裝置。

背景技術

多分類問題是實際應用場景中常見的問題之一。在深度神經網絡中，Softmax是最常被使用的損失函數。這是因為，Softmax具有結構簡單和梯度運算高效等特點。但是許多研究已經表明，僅僅采用Softmax損失函數監督網絡模型進行訓練時，得到的特征判別性不足。切確地說，在圖像比較相似時，網絡對圖像的分類容易出錯。這主要是因為，Softmax僅對類間距離做了優化，未收縮類內樣本的距離。

現有方案中有基于Softmax的改進方法和基于多元組的Contrastive(二元組)和Triplet(三元組)方法以用于解決上述問題。但是，基于Softmax損失的改進方法主要關注于加性間距，如AM-Softmax，但都未對類別中心進行約束，而是隨模型訓練進行動態學習。而多元組方法雖然對樣本間的距離做約束，但高質量的樣本對存在生成困難的問題，且梯度更新運算較為復雜。

發明內容

有鑒于此，本申請的目的在于，提供一種分類優化方法及裝置以改善上述問題。

本申請實施例提供一種分類優化方法，所述方法包括：

對預先建立的神經網絡進行初始化處理，所述神經網絡包括分類層及多個網絡層；

構建參數矩陣，利用所述參數矩陣對所述神經網絡中的分類層參數進行正交初始化處理，所述參數矩陣包括所述分類層的分類層權值，且所述參數矩陣中各個行向量兩兩正交；

將訓練圖像導入至所述神經網絡，獲得所述訓練圖像經過所述網絡層后輸出的特征向量；

根據所述參數矩陣及所述特征向量計算得到損失函數；

根據所述損失函數對各所述網絡層對應的網絡層權值以及所述分類層對應的分類層權值進行梯度計算以更新所述網絡層權值及所述分類層權值；

根據更新網絡層權值及分類層權值后的神經網絡對輸入圖像進行訓練。

可選地，所述分類層包括多個類別參數，所述構建參數矩陣，利用所述參數矩陣對所述神經網絡中的分類層參數進行正交初始化處理的步驟，包括：

根據所述分類層中的類別參數的個數以及各類別參數的維度數構建參數矩陣，所述參數矩陣中各行類別參數之間兩兩正交；

根據所述參數矩陣對所述神經網絡包含的分類層參數進行正交初始化處理。

可選地，所述將訓練圖像導入至所述神經網絡，獲得所述訓練圖像經過所述網絡層后輸出的特征向量的步驟，包括：

將訓練圖像導入至所述神經網絡，對所述訓練圖像進行特征提取；

將提取到的特征與所述網絡層對應的網絡層權值進行矩陣計算；

對得到的矩陣計算結果進行歸一化處理以得到所述訓練圖像經過所述網絡層后輸出的特征向量。

可選地，所述根據所述參數矩陣及所述特征向量計算得到損失函數的步驟，包括：

根據所述參數矩陣、所述特征向量以及所述訓練圖像的數量計算得到初始函數；