[發明專利]訓練卷積神經網絡模型的方法、裝置及存儲介質

有效

• 申請號: 201710675297.5
• 申請日: 2017-08-09
• 公開（公告）號: CN107480773B
• 公開（公告）日: 2020-11-13
• 發明（設計）人: 萬韶華
• 申請（專利權）人: 北京小米移動軟件有限公司
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/08
• 代理公司: 北京三高永信知識產權代理有限責任公司 11138
• 代理人: 林錦瀾

1.一種訓練卷積神經網絡模型的方法，其特征在于，所述方法包括：

確定卷積神經網絡模型包括的多個隱含層中每個隱含層的隱藏概率，所述多個隱含層的隱藏概率按照所述多個隱含層輸出值的抽象程度從高到低的順序依次升高；

對于所述卷積神經網絡模型包括的所述多個隱含層中的每個隱含層，基于所述隱含層的隱藏概率從所述隱含層包括的多個節點中選擇目標節點，所述多個隱含層的隱藏概率不相同；

基于從所述多個隱含層中選擇的目標節點對所述卷積神經網絡模型進行訓練，訓練后的卷積神經網絡模型的輸入層用于確定輸入的圖像包括的所有像素點的像素值，并將所述圖像的所有像素點的像素值傳輸至與所述輸入層相連的隱含層，所述訓練后的卷積神經網絡模型的輸出層用于根據接收到的處理后的像素點的像素值來確定所述圖像分別屬于預先設置多個類別中的每個類別的概率，從而輸出對所述圖像的識別結果。

2.根據權利要求1所述的方法，其特征在于，所述確定所述卷積神經網絡模型包括的多個隱含層中每個隱含層的隱藏概率，包括：

對于所述卷積神經網絡模型包括的多個隱含層中的每個隱含層，獲取所述隱含層的輸出值；

基于所述隱含層的輸出值，確定所述隱含層的隱藏概率。

3.根據權利要求2所述的方法，其特征在于，所述基于所述隱含層的輸出值，確定所述隱含層的隱藏概率，包括：

對所述隱含層的輸出值進行奇異值分解，得到N個奇異值，所述N為大于1的正整數；

計算所述N個奇異值的平方和，并計算所述N個奇異值的平方和與預設比例的乘積，得到目標平方和；

將所述N個奇異值按照從大到小的順序進行排序，得到排序結果；

確定所述排序結果中的第M個奇異值，其中，所述排序結果中的前M個奇異值的平方和大于所述目標平方和，且所述排序結果中的前M-1個奇異值的平方和小于所述目標平方和，所述M為大于或等于1的正整數；

將所述M和所述N的比值確定為所述隱含層的隱藏概率。

4.根據權利要求1所述的方法，其特征在于，所述確定所述卷積神經網絡模型包括的多個隱含層中每個隱含層的隱藏概率，包括：

獲取第一隱含層的輸出值以及第二隱含層的輸出值，所述第一隱含層為所述多個隱含層中輸出值抽象程度最低的隱含層，所述第二隱含層為所述多個隱含層中輸出值抽象程度最高的隱含層；

基于所述第一隱含層的輸出值，確定所述第一隱含層的隱藏概率，基于所述第二隱含層的輸出值，確定所述第二隱含層的隱藏概率；

基于所述第一隱含層的隱藏概率和所述第二隱含層的隱藏概率之間的概率差值，確定所述多個隱含層中除所述第一隱含層和所述第二隱含層之外的其他隱含層的隱藏概率。

5.根據權利要求4所述的方法，其特征在于，所述第一隱含層為與輸入層連接的第一個隱含層，所述第二隱含層為與輸出層連接的最后一個隱含層；

所述基于所述第一隱含層的隱藏概率和所述第二隱含層的隱藏概率之間的概率差值，確定所述多個隱含層中除所述第一隱含層和所述第二隱含層之外的其他隱含層的隱藏概率，包括：

基于所述多個隱含層的個數、所述概率差值、所述第一個隱含層的隱藏概率以及所述最后一個隱含層的隱藏概率，確定位于所述第一個隱含層和所述最后一個隱含層之間的每個隱含層的隱藏概率。

6.根據權利要求1-5任一所述的方法，其特征在于，所述基于所述隱含層的隱藏概率從所述隱含層包括的多個節點中選擇目標節點，包括：

對于所述隱含層包括的多個節點中的每個節點，按照預設規則為所述節點生成一個隨機概率；

當所述隨機概率小于所述隱藏概率時，將所述節點確定為目標節點。