[發(fā)明專利]卷積神經(jīng)網(wǎng)絡模型的訓練方法及裝置

有效

• 申請?zhí)枺?/td>: 201710274339.4
• 申請日: 2017-04-25
• 公開（公告）號: CN107194464B
• 公開（公告）日: 2021-06-01
• 發(fā)明（設計）人: 萬韶華
• 申請（專利權）人: 北京小米移動軟件有限公司
• 主分類號: G06N3/08
• 分類號: G06N3/08;G06N3/04
• 代理公司: 北京三高永信知識產權代理有限責任公司 11138
• 代理人: 林錦瀾

本公開是關于一種卷積神經(jīng)網(wǎng)絡模型的訓練方法及裝置，屬于圖像處理技術領域，該方法包括：通過待訓練的卷積神經(jīng)網(wǎng)絡模型對存儲的多個訓練圖像分別進行識別處理，得到多個預測類別概率向量。對于該多個訓練圖像中的每個訓練圖像，確定該訓練圖像的預測類別概率向量與初始類別概率向量之間的差值，得到該訓練圖像的類別概率誤差向量。由于該初始類別概率向量中包括多個初始類別概率是基于預設擾動概率、該訓練圖像的真實類別以及對應類別的類別比例確定得到，如此，在基于多個訓練圖像的類別概率誤差向量和該多個訓練圖像對卷積神經(jīng)網(wǎng)絡模型進行訓練時能夠加快算法收斂速度，從而保證了訓練后的卷積神經(jīng)網(wǎng)絡模型對圖像識別的準確性。

技術領域

本公開涉及圖像處理技術領域，尤其涉及一種卷積神經(jīng)網(wǎng)絡模型的訓練方法及裝置。

背景技術

隨著圖像處理技術的快速發(fā)展，卷積神經(jīng)網(wǎng)絡模型在圖像識別方面得到了廣泛的應用，譬如，如果將一張待識別的圖像輸入至已完成訓練的卷積神經(jīng)網(wǎng)絡模型中，通過該卷積神經(jīng)網(wǎng)絡模型可以識別出該圖像的類別。例如，將一張“貓”的圖像輸入至已完成訓練的卷積神經(jīng)網(wǎng)絡模型中，通過該卷積神經(jīng)網(wǎng)絡模型可以識別出該圖像的類別為“貓”。為了能夠成功實現(xiàn)圖像識別，通常需要預先基于大量的訓練圖像對卷積神經(jīng)網(wǎng)絡模型進行訓練，例如，預先基于大量的動物訓練圖像對卷積神經(jīng)網(wǎng)絡模型進行訓練。目前，如何對卷積神經(jīng)網(wǎng)絡模型進行訓練以保證圖像識別的準確性成為本領域研究的熱點。

發(fā)明內容

為克服相關技術中存在的問題，本公開提供一種卷積神經(jīng)網(wǎng)絡模型的訓練方法及裝置。

第一方面，提供一種卷積神經(jīng)網(wǎng)絡模型的訓練方法，所述方法包括：

通過待訓練的卷積神經(jīng)網(wǎng)絡模型對存儲的多個訓練圖像分別進行識別處理，得到多個預測類別概率向量，每個預測類別概率向量中包括多個預測類別概率，每個預測類別概率為對應的訓練圖像屬于多個預設類別中每個預設類別的概率；

對于所述多個訓練圖像中的每個訓練圖像，確定所述訓練圖像的預測類別概率向量與初始類別概率向量之間的差值，得到所述訓練圖像的類別概率誤差向量，所述初始類別概率向量中包括多個初始類別概率，所述多個初始類別概率是基于預設擾動概率、所述訓練圖像的真實類別以及對應類別的類別比例確定得到；

基于所述多個訓練圖像的類別概率誤差向量和所述多個訓練圖像，對所述卷積神經(jīng)網(wǎng)絡模型進行訓練。

可選地，確定所述訓練圖像的預測類別概率向量與初始類別概率向量之間的差值之前，還包括：

對于所述多個預設類別中的每個預設類別，確定所述預設類別的類別比例；

基于所述預設擾動概率、所述訓練圖像的真實類別以及所述預設類別的類別比例，通過如下公式確定與所述預設類別對應的初始類別概率；

P(k)＝λ*δ_y(k)+(1-λ)*p₀(k)；

其中，所述P(k)表示與所述預設類別對應的初始類別概率，λ表示所述預設擾動概率，所述p₀(k)表示所述預設類別的類別比例，其中，當所述訓練圖像的真實類別與所述預設類別相同時，所述δ_y(k)為1，當所述訓練圖像的真實類別與所述預設類別不同時，所述δ_y(k)為0。

可選地，基于所述多個訓練圖像的類別概率誤差向量和所述多個訓練圖像，對所述卷積神經(jīng)網(wǎng)絡模型進行訓練，包括：

確定所述多個訓練圖像的類別概率誤差向量的平均類別概率誤差向量；

基于所述平均類別概率誤差向量和所述多個訓練圖像，對所述卷積神經(jīng)網(wǎng)絡模型進行訓練。

可選地，基于所述平均類別概率誤差向量和所述多個訓練圖像，對所述卷積神經(jīng)網(wǎng)絡模型進行訓練，包括：