[發明專利]神經網絡訓練方法、圖像處理方法及裝置

在審

• 申請號: 202010035139.5
• 申請日: 2020-01-14
• 公開（公告）號: CN111260032A
• 公開（公告）日: 2020-06-09
• 發明（設計）人: 王誠
• 申請（專利權）人: 北京邁格威科技有限公司
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/08;G06K9/62
• 代理公司: 北京鉦霖知識產權代理有限公司 11722
• 代理人: 李英艷;馮志云

1.一種神經網絡訓練方法，其中，所述方法包括：

獲取總訓練集，所述總訓練集包括多個類別的訓練數據，其中每個所述類別包括一個或多個所述訓練數據；

針對每一訓練輪次，基于所述總訓練集，對每個所述類別的訓練數據進行采樣，得到采樣后的訓練數據組成的子訓練集；

根據神經網絡對所述子訓練集中的每個所述類別的所述訓練數據進行特征提取，得到特征向量；

基于當前所述神經網絡，確定每個所述類別的中心向量，其中所述中心向量作為錨點；

基于所述中心向量和所述特征向量獲得損失函數的值，根據所述損失函數的值調整所述神經網絡的參數。

2.根據權利要求1所述的神經網絡訓練方法，其中，所述基于當前所述神經網絡，確定每個所述類別的中心向量，包括：

基于當前訓練輪次的子訓練集中每個所述類別的訓練數據的所述特征向量，分別對所述特征向量對應類別的歷史中心向量進行更新，得到每個所述類別的當前訓練輪次的所述中心向量，其中所述歷史中心向量為前一訓練輪次的所述中心向量，對于第一訓練輪次，前一訓練輪次的所述中心向量為預設的每個所述類別的初始中心向量。

3.根據權利要求2所述的神經網絡訓練方法，其中，所述基于當前訓練輪次的子訓練集中每個所述類別的訓練數據的所述特征向量，分別對所述特征向量對應類別的歷史中心向量進行更新，采用以下方式：

分別設置所述子訓練集中每個訓練數據的所述特征向量的第一權重，以及所述歷史中心向量的第二權重；

基于所述第一權重和所述第二權重，對所述當前訓練輪次每個所述類別的訓練數據的所述特征向量與對應類別的所述歷史中心向量進行加權，獲得對應類別的當前訓練輪次的所述中心向量。

4.根據權利要求2所述的神經網絡訓練方法，其中，所述基于當前訓練輪次的子訓練集中每個所述類別的訓練數據的所述特征向量，分別對所述特征向量對應類別的歷史中心向量進行更新，采用以下方式：

基于每個所述類別的訓練數據的所述特征向量，確定與每個所述類別對應的中心損失；

基于所述中心損失，更新對應所述類別的所述歷史中心向量，得到對應所述類別的所述當前訓練輪次所述中心向量。

5.根據權利要求4所述的神經網絡訓練方法，其中，所述基于所述中心損失，更新對應所述類別的所述歷史中心向量，得到對應所述類別的所述當前訓練輪次所述中心向量，包括：

基于所述中心損失，獲取對應所述類別的所述歷史中心向量與當前訓練輪次的子訓練集中對應所述類別的訓練數據的所述特征向量之間的距離；

根據所述距離，確定對應所述類別的所述歷史中心向量的更新量；

根據所述更新量更新對應所述類別的所述歷史中心向量，得到對應所述類別的所述當前訓練輪次所述中心向量。

6.根據權利要求1所述的神經網絡訓練方法，其中，所述基于當前所述神經網絡，確定每個所述類別的中心向量，包括：

基于所述神經網絡的每個所述類別的分類輸出權重，確定對應類別的所述中心向量。

7.根據權利要求1所述的神經網絡訓練方法，其中，所述基于所述中心向量和所述特征向量獲得損失函數的值，根據所述損失函數的值調整所述神經網絡的參數，包括：

基于所述中心向量，在當前訓練輪次的子訓練集全部訓練數據的所述特征向量中確定第一向量和第二向量，其中，所述第一向量為與所述中心向量類別相同的特征向量，所述第二向量為與所述中心向量類別不同的特征向量；

基于所述中心向量、所述第一向量以及所述第二向量，通過三元組損失函數得到損失值，并基于所述損失值調整所述神經網絡的參數。

8.根據權利要求7所述的神經網絡訓練方法，其中，所述第一向量為與所述中心向量之間距離最遠且與所述中心向量類別相同的特征向量；所述第二向量為與所述中心向量之間距離最近且與所述中心向量類別不同的特征向量。