[發(fā)明專利]一種基于移動終端的圖像分類方法

有效

• 申請?zhí)枺?/td>: 201811119618.4
• 申請日: 2018-09-25
• 公開（公告）號: CN109344893B
• 公開（公告）日: 2021-01-01
• 發(fā)明（設(shè)計）人: 陳靚影;徐如意;饒川;劉樂元;張坤;彭世新;劉小迪
• 申請（專利權(quán)）人: 華中師范大學
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06N3/04;G06N3/08
• 代理公司: 武漢東喻專利代理事務所(普通合伙) 42224
• 代理人: 方可

1.一種基于移動終端的圖像分類方法，其特征在于，包括離線訓練階段和在線分類階段：

所述離線訓練階段具體為：

S1制定碼本：

采用深度神經(jīng)網(wǎng)絡(luò)模型，獲取深度神經(jīng)網(wǎng)絡(luò)模型的每層中權(quán)重絕對值最大值，并將其量化為底數(shù)為2的指數(shù)形式，從而得到碼本的量化上限；在量化上限限定下，確定當前模型量化的碼本；

S2量化權(quán)重：

對深度神經(jīng)網(wǎng)絡(luò)模型中的權(quán)重進行指數(shù)量化，將權(quán)重量化為最接近碼本的值；

S3網(wǎng)絡(luò)模型重訓練：

輸入樣本圖像，對量化的深度神經(jīng)網(wǎng)絡(luò)模型進行訓練，在訓練的前向過程中得到深度網(wǎng)絡(luò)的交叉熵損失，在反向過程中根據(jù)交叉熵損失更新網(wǎng)絡(luò)中的權(quán)重參數(shù)；

S4迭代與終止：

迭代執(zhí)行步驟S1、S2和S3，在模型訓練過程中同時對量化碼本進行動態(tài)更新，直到深度神經(jīng)網(wǎng)絡(luò)模型收斂或者達到設(shè)置的訓練次數(shù),則終止迭代，得到最終分類器；

所述在線分類階段具體為：將待分類圖像送入分類器，得到分類結(jié)果；

其中碼本的量化上限表示為：其中n₂＝floor(log₂(max(|W_l|)))，floor(·)為向下取整操作，w_l為深度神經(jīng)網(wǎng)絡(luò)的第l層權(quán)重，max()表示求最大值，| |表示取絕對值；

當量化為b比特時，碼本表示為：P_l＝{±2ⁿ},n∈[n₁₁,n₁₂],n∈Z，其中l(wèi)代表是深度神經(jīng)網(wǎng)絡(luò)的第l層，n₁₁和n₁₂是兩個整數(shù)，滿足n₁₁＜n₁₂，n₁₁＝n₁₂-2^b-1+1，Z表示正整數(shù)，或表示為：P_l＝{±2ⁿ,0},n∈[n₂₁,n₂₂],n∈Z，其中l(wèi)代表是深度神經(jīng)網(wǎng)絡(luò)的第l層，n₂₁和n₂₂是兩個整數(shù)，滿足n₂₁＜n₂₂，n₂₁＝n₂₂-2^b-2+1,Z表示正整數(shù)；

其中，若碼本表示為：P_l＝{±2ⁿ},n∈[n₁₁,n₁₂],n∈Z，則對深度神經(jīng)網(wǎng)絡(luò)各層量化如下：

其中，為量化后的權(quán)重，2^k為權(quán)重w的絕對值|w|的量化值；

指示函數(shù)w∈W_l；

若碼本表示為：P_l＝{±2ⁿ,0},n∈[n₂₁,n₂₂],n∈Z，則對深度神經(jīng)網(wǎng)絡(luò)各層量化如下：

其中，為量化后的權(quán)重，2^k為權(quán)重w的絕對值|w|的量化值；

指示函數(shù)w∈W_l；

在訓練的前向過程中得到深度網(wǎng)絡(luò)的交叉熵損失，所述交叉熵損失表示為：

其中，是網(wǎng)絡(luò)損失，是正則項，采用L₂范數(shù)正則項，λ是正則項的系數(shù),是模型壓縮后的網(wǎng)絡(luò)權(quán)值，是總損失函數(shù)；

在反向過程中根據(jù)交叉熵損失更新網(wǎng)絡(luò)中的權(quán)重參數(shù)：

其中，是第k次迭代時網(wǎng)絡(luò)的權(quán)值，γ是學習率，是損失函數(shù)對網(wǎng)絡(luò)權(quán)值的梯度。