[發明專利]一種卷積神經網絡構建方法

有效

• 申請號: 201710958482.5
• 申請日: 2017-10-16
• 公開（公告）號: CN107633296B
• 公開（公告）日: 2019-10-22
• 發明（設計）人: 張寶昌;王曉迪;蔚保國;王垚;羅益;賈瑞才;欒尚禎
• 申請（專利權）人: 中國電子科技集團公司第五十四研究所
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/08
• 代理公司: 河北東尚律師事務所 13124
• 代理人: 王文慶

1.一種卷積神經網絡構建方法，其特征在于，用于構建圖像識別卷積神經網絡，所述圖像識別卷積神經網絡包括順次連接的輸入層、四個加入手工調制核的卷積層、第一最大池化層、全連接層、Dropout層和輸出層；其中，輸入層對輸入的圖片進行擴展，得到多通道的輸入；每個卷積層中，先進行卷積，而后再對數據進行歸一化，然后輸入第二最大池化層，最后將池化結果輸入到激活層，如此一個卷積層結束；第四個卷積層沒有第二最大池化層，第四個卷積層的輸出輸入到第一最大池化層中；在訓練時，每次迭代的訓練過程中，通過反傳計算更新所有卷積層和全連接層的權值以進行迭代，直到訓練完成；整個卷積神經網絡的構建包括以下過程：

(1)利用手調核對一組本體核進行調制，生成調制核；所述本體核為三維卷積核，其維度為N×W×W，其中N為通道數，W為卷積核的尺寸；所述手調核由N個W×W大小的手工核組成；所述調制核的維度為N×N×W×W；

(2)進行調制核的前向卷積，生成輸出特征圖；

(3)輸入一個圖像矩陣到調制核卷積層中，并依次經過第一最大池化層、全連接層、Dropout層的處理，得到最終的輸出特征圖；

(4)進行卷積神經網絡模型的梯度反傳，反傳過程中，在每個原始卷積核上，通過手調核與原始卷積核的點乘，實現對原始卷積核的調制，得到調制卷積核，并用該調制卷積核代替原始卷積核進行神經網絡的前向傳遞，以達到特征增強的效果。

2.根據權利要求1所述的卷積神經網絡構建方法，其特征在于，所述手調核為學習出來的手調核，在卷積神經網絡的反傳過程中，也對手調核進行更新，使其進行自學習，由此得到調制效果較好的手工核。

3.根據權利要求1所述的卷積神經網絡構建方法，其特征在于，通過復制N次的方式將輸入卷積神經網絡的二維矩陣擴展為三維矩陣，并以三維矩陣作為該卷積神經網絡的輸入特征圖，N為輸入二維矩陣的通道數，且輸入二維矩陣的通道數與手工核的通道數相等。

4.根據權利要求3所述的卷積神經網絡構建方法，其特征在于，所述三維矩陣輸入卷積神經網絡后，經過前向傳遞過程，得到輸出特征向量，并通過損失函數計算出損失；得到損失后，卷積神經網絡反傳更新，損失從最深層傳遞到最淺層；每層更新時，僅更新本體核，當損失反傳到最淺層時，再更新手調核。