[發明專利]人工神經網絡調整方法和裝置

在審

• 申請號: 201810608259.2
• 申請日: 2018-06-13
• 公開（公告）號: CN110598723A
• 公開（公告）日: 2019-12-20
• 發明（設計）人: 高梓桁
• 申請（專利權）人: 北京深鑒智能科技有限公司
• 主分類號: G06K9/62
• 分類號: G06K9/62
• 代理公司: 11452 北京展翼知識產權代理事務所(特殊普通合伙)
• 代理人: 張陽

1.一種人工神經網絡(ANN)調整方法，其中所述ANN的最后一個全連接層是用于分類的分類器并且該層的歸一化權值表示各類的特征中心，所述方法包括：

以對所述特征中心的夾角進行約束的第一損失函數對所述ANN進行調整；

在使得各個特征中心的夾角分布趨于均勻的情況下完成對所述ANN的訓練。

2.如權利要求1所述的方法，所述方法包括：

以使用第一損失函數對所述ANN進行調整之前，使用第二損失函數對所述ANN進行訓練以確定各類的初始特征中心。

3.如權利要求1所述的方法，其中，對所述特征中心的夾角進行的約束包括：

對每個特征中心和相鄰兩個特征中心之間的夾角取平均作為該特征中心的特征中心角；以及

使得所有的特征中心角趨向于相等，且方差盡可能為零。

4.如權利要求3所述的方法，其中，所述特征中心角需要大于預定閾值。

5.如權利要求1所述的方法，其中，對所述特征中心的夾角進行約束的第一損失函數是softmax損失函數。

6.如權利要求1所述的方法，還包括；

使用不加約束的第三損失函數與第一損失函數對所述ANN進行聯合調整。

7.如權利要求6所述的方法，其中，所述第一損失函數和第三損失函數在所述ANN的調整過程中被賦予不同的權重。

8.如權利要求6所述的方法，其中，所述第一損失函數的權重隨著迭代的加深逐漸增大。

9.如權利要求1所述的方法，其中，所述第一損失函數的損失約束的權重隨著迭代的加深逐漸增大。

10.如權利要求1所述的方法，其中，輸入所述ANN的訓練數據是各類數據分布不等的非平衡數據集。

11.如權利要求1所述的方法，其中，所述ANN網絡是人臉識別神經網絡。

12.一種人工神經網絡(ANN)調整裝置，其中所述人工神經網絡的最后一個全連接層是用于分類的分類器并且該層的歸一化權值表示各類的特征中心，所述裝置包括：

夾角調整裝置，用于以對所述特征中心的夾角進行約束的第一損失函數對所述ANN進行調整；

迭代裝置，用于在使得各個特征中心的夾角分布趨于均勻的情況下完成對所述ANN的訓練。

13.如權利要求12所述的裝置，所述裝置包括：

初始訓練裝置，用于以使用第一損失函數對所述ANN進行調整之前，使用第二損失函數對所述ANN進行訓練以確定各類的初始特征中心。

14.如權利要求12所述的裝置，其中，對所述特征中心的夾角進行的約束包括：

對每個特征中心和相鄰兩個特征中心之間的夾角取平均作為該特征中心的特征中心角；以及

使得所有的特征中心角趨向于相等，且方差盡可能為零。

15.如權利要求12所述的裝置，還包括；

聯合調整裝置，用于使用不加約束的第三損失函數與第一損失函數對所述ANN進行聯合調整。

16.如權利要求15所述的裝置，其中，所述第一損失函數和第三損失函數在所述聯合調整裝置對所述ANN的調整過程中被賦予不同的權重。

17.如權利要求15所述的裝置，其中，所述迭代裝置使得所述第一損失函數的權重隨著迭代的加深逐漸增大。

18.如權利要求12所述的裝置，其中，所述迭代裝置使得所述第一損失函數的損失約束的權重隨著迭代的加深逐漸增大。