[發明專利]一種神經網絡的訓練方法和設備

有效

• 申請號: 201510932132.2
• 申請日: 2015-12-14
• 公開（公告）號: CN105512725B
• 公開（公告）日: 2018-08-28
• 發明（設計）人: 叢林;李曉燕
• 申請（專利權）人: 杭州朗和科技有限公司
• 主分類號: G06N3/08
• 分類號: G06N3/08;G06K9/62
• 代理公司: 北京集佳知識產權代理有限公司 11227
• 代理人: 王寶筠

1.一種方法，包括：

構建第一初始深度神經網絡；

利用第一訓練數據對所述第一初始深度神經網絡進行訓練，以形成第一目標深度神經網絡；

對于任意一組可輸入對象的具體值，將該組可輸入對象的具體值輸入所述第一目標深度神經網絡的輸入節點，則所述第一目標深度神經網絡的輸出節點將輸出與該組可輸入對象的具體值相對應的一組可輸出對象的具體值；

其中，所述第一初始深度神經網絡的輸出層上包括第一輸出節點和輔助節點，其中，每一所述第一輸出節點分別對應所述第一初始深度神經網絡的每一可輸出對象，所述第一輸出節點的數量等于所述第一初始深度神經網絡的可輸出對象的數量，所述輔助節點不對應所述第一初始深度網絡的任何可輸出對象；

所述第一初始深度神經網絡的可輸入對象是從圖像信息中提取的特征屬性信息；

所述第一初始深度神經網絡的可輸出對象是用于劃分圖像信息所屬類別的圖像標簽。

2.根據權利要求1所述的方法，還包括：

對所述第一目標深度神經網絡上的節點進行改造，以形成第二初始深度神經網絡；

利用第二訓練數據對所述第二初始深度神經網絡進行訓練，以形成第二目標深度神經網絡；

其中，所述第二初始深度神經網絡的輸出層上包括第二輸出節點，每一所述第二輸出節點分別對應所述第二初始深度神經網絡的每一可輸出對象，所述第二輸出節點的數量等于所述第二初始深度神經網絡的可輸出對象的數量；

所述第一初始深度神經網絡的可輸出對象為待識別對象的第一類別，所述第二初始深度神經網絡的可輸出對象為待識別對象的第二類別，所述第二類別為所述第一類別的細化分類。

3.根據權利要求2所述的方法，其中，所述對所述第一目標深度神經網絡上的節點進行改造，以形成第二初始深度神經網絡，包括：

在所述第一目標深度神經網絡中，將輸出層上的每一第一輸出節點擴展成至少一個所述第二輸出節點并刪除輸出層上的所述輔助節點，以形成所述第二初始深度神經網絡；

其中，對于任意一個所述第一輸出節點，該第一輸出節點擴展出的第二輸出節點對應的第二類別為該第一輸出節點對應的第一類別的細化類別。

4.根據權利要求2所述的方法，所述對所述第一目標深度神經網絡上的節點進行改造，以形成第二初始深度神經網絡，包括：

在所述第一目標深度神經網絡中，將輸出層上的每一所述第一輸出節點擴展成至少一個所述第二輸出節點并增加輸出層之前一層上的節點數量，以形成所述第二初始深度神經網絡；

其中，對于任意一個所述第一輸出節點，該第一輸出節點擴展出的第二輸出節點對應的第二類別為該第一輸出節點對應的第一類別的細化類別。

5.根據權利要求1所述的方法，其中，利用第一訓練數據對所述第一初始深度神經網絡進行訓練，以形成第一目標深度神經網絡，包括：

將所述第一訓練數據的輸入值輸入所述第一初始深度神經網絡的輸入層，在所述第一初始深度神經網絡中對所述輸入值進行正向處理，以在所述第一初始深度神經網絡的輸出層得到正向處理輸出值；

計算所述輸入值在第一訓練數據中對應的輸出值與所述正向處理輸出值之間的誤差值；

以所述誤差值輸入所述第一初始深度神經網絡的輸出層，在所述第一初始深度神經網絡中對所述誤差值進行反向傳播，以修正所述第一初始深度神經網絡中的參數，從而形成所述第一目標深度神經網絡。

6.根據權利要求2所述的方法，應用于圖像識別，

所述待識別對象為圖像信息，所述第二類別為用于對圖像進行分類的圖像標簽，所述第一類別為用于對所述圖像標簽進行分類的類別。