[發明專利]神經網絡訓練方法、人臉識別方法及系統和存儲介質

有效

• 申請號: 201811630038.1
• 申請日: 2018-12-28
• 公開（公告）號: CN109711358B
• 公開（公告）日: 2020-09-04
• 發明（設計）人: 孔彥;吳富章;趙宇航;趙玉軍;王黎明
• 申請（專利權）人: 北京遠鑒信息技術有限公司
• 主分類號: G06K9/00
• 分類號: G06K9/00;G06K9/62
• 代理公司: 北京超凡志成知識產權代理事務所(普通合伙) 11371
• 代理人: 王文紅

1.一種神經網絡訓練方法，其特征在于，所述神經網絡包括依次連接的卷積層、全連接層和損失函數模塊，在單次迭代訓練的過程中，所述方法包括：

獲取T個特征向量，所述T個特征向量包括D個參考人臉圖像的特征向量和M個樣本人臉圖像的特征向量，其中，所述參考人臉圖像的特征向量個數D與所述全連接層的權向量個數相同，所述M個樣本人臉圖像中的每個樣本人臉圖像與所述D個參考人臉圖像中的一個參考人臉圖像為同一個人的人臉圖像，T等于D和M的和，且T、D、M均為正整數；

將所述全連接層的學習率設為零；

將所述T個特征向量中的第t個特征向量輸入到神經網絡中，經過所述卷積層的處理，得到第t個輸出特征向量x_t，其中，t為大于等于1且小于等于T的整數，所述第t個特征向量是所述T個特征向量中的參考人臉圖像的特征向量或樣本人臉圖像的特征向量；

將所述第t個輸出特征向量在全連接層中進行歸一化處理，得到第t個歸一化后的輸出特征向量

判斷所述第t個特征向量是否為參考人臉圖像的特征向量，當所述第t個特征向量是D個參考人臉圖像中第d個參考人臉圖像的特征向量時，將所述第t個歸一化后的輸出特征向量替換為全連接層的第d個權向量，其中，d為大于1且小于等于D的正整數，在所述單次迭代中，對所述D個參考人臉圖像的特征向量執行完上述替換后，得到由D個歸一化后的參考人臉圖像輸出向量組成的全連接層歸一化后的權矩陣

在所述全連接層中，根據所述歸一化后的輸出特征向量和所述全連接層歸一化后的權矩陣得到第t個分類向量f_t；

將所述第t個分類向量輸入到損失函數模塊中，判斷所述損失函數模塊中的所述分類向量數量個數是否達到N_n個，其中N_n表示將總樣本T切分為n份后，第n份中樣本的數量，n、N_n為大于等于1，小于等于T的整數，N1，N2...Nn的和等于T；

當所述損失函數模塊中的所述分類向量數量達到N_n個時，所述損失函數模塊根據所述N_n個所述分類向量，得到第n個損失函數值，根據第n個損失函數值，按照指定的優化算法，優化所述卷積層的參數，并清空所述損失函數模塊的所述分類向量；

按照t依次取1到T執行上述各步驟后，得到所述卷積層的目標參數。

2.根據權利要求1所述的方法，其特征在于，在所述全連接層中，根據所述歸一化后的輸出特征向量和所述全連接層歸一化后的權矩陣得到第t個分類向量f_t，所述方法包括：

將所述歸一化后的輸出特征向量和所述歸一化后的權矩陣相乘，得到分類向量f_t，其中，

相應地，在所述單次迭代中，對所述T個特征向量全部執行完上述步驟后，得到T個所述分類向量。

3.根據權利要求2所述的方法，其特征在于，所述損失函數模塊根據所述N_n個所述分類向量，得到第n個損失函數值，包括：

根據指定的規則，設置所述損失函數中的余弦度量縮放參數s和損失函數中的另一余弦度量縮放參數m，其中，m大于等于0且小于等于1；

根據所述損失函數模塊中的所述N_n個所述分類向量和如下公式，得到第n個損失值L_n，其中，j依次取1到N_n的整數，N_n為計算第n個損失值需要的分類向量個數，相應的，n_j依次取到的整數，

其中，所述分類向量與第y_j個參考人臉圖像對應同一個人臉，為分類向量中的第y_j個值，y_j為大于等于1小于等于D的整數。

4.根據權利要求3所述的方法，其特征在于，所述指定的優化算法為隨機梯度下降法，根據第n個損失函數值，按照指定的優化算法，優化所述卷積層的參數，包括：

根據預先設定的條件，設置所述隨機梯度下降法的參數；

根據所述第n個損失值，按照所述隨機梯度下降法，得到所述卷積層的參數，并調整所述卷積層的參數。