[發明專利]一種面向可編程邏輯器件移動終端的小型神經網絡的實現方法

在審

• 申請號: 201911050280.6
• 申請日: 2019-10-31
• 公開（公告）號: CN110782022A
• 公開（公告）日: 2020-02-11
• 發明（設計）人: 錢慧;林秀男;鄭鎮洪;劉狄
• 申請（專利權）人: 福州大學
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/063;G06N3/08
• 代理公司: 35100 福州元創專利商標代理有限公司
• 代理人: 錢莉;蔡學俊

1.一種面向可編程邏輯器件移動終端的小型神經網絡的實現方法，其特征在于：包括以下步驟：

步驟S1：提供輸入圖像，所述輸入圖像經過2層的卷積層后得到特征圖；其中所述卷積層的每一層均由步長為1的3×3卷積核進行卷積得到，采用邊緣零填充方法保證卷積的輸出維度不變；

步驟S2：將步驟S1得到的特征圖再經過激活函數進行非線性映射；不同卷積層之間采用步長為2的2×2濾波器進行最大池化操作，提取特征，降低所述特征圖的維度，得到池化層輸出圖像；

步驟S3：將步驟S2中所得到的池化層輸出圖像平鋪為一維經過全連接層后，得到輸出結果；

步驟S4：經過步驟S1-步驟S3即得到小型神經網絡模型；將得到的小型神經網絡模型部署在包含可編程邏輯器件的移動終端上。

2.根據權利要求1所述的一種面向可編程邏輯器件移動終端的小型神經網絡的實現方法，其特征在于：步驟S1中所述的輸入圖像具體為：在自然場景下通過成像系統采集圖像，將采集到的圖像先經過二值化處理，然后設置閾值歸一化為32×32大小的圖像，即所述輸入圖像為由0或1組成的1-bit表示的圖像數據。

3.根據權利要求1所述的一種面向可編程邏輯器件移動終端的小型神經網絡的實現方法，其特征在于：所述步驟S1具體包括以下內容：

所述卷積層包含多個卷積核集{K_i}，卷積核集的個數取決于卷積層的輸出通道，每一個K_i中的卷積核數目和輸入特征圖數目相等，將此卷積層的輸入特征圖與K_i中對應的卷積核進行卷積操作，得到卷積層的第i個輸出通道C_i；卷積公式為：

I_j表示輸入的第j個特征圖，*代表卷積操作，b_i為偏置權重，N為K_i中卷積核的個數，也與此卷積層的輸入特征圖的數目相等。

4.根據權利要求1所述的一種面向可編程邏輯器件移動終端的小型神經網絡的實現方法，其特征在于：所述步驟S2的具體內容為：步驟S2中所述的激活函數采用的是線性整流函數ReLU；

所使用的激活函數ReLU函數表達式如下，m為卷積后特征圖的寬度,n為卷積后特征圖的高度；

最大池化操作為在2×2不重疊的子區域上取最大值，最大池化操作表示為：

其中r,t分別為池化后特征圖的寬度和高度，s為池化層的步長。

5.根據權利要求1所述的一種面向可編程邏輯器件移動終端的小型神經網絡的實現方法，其特征在于：所述步驟S3的具體內容為：

全連接層的輸入為平鋪為一維后的特征圖，所述輸入圖像經過卷積層和池化層后輸出的特征圖為r×t，其中r,t分別為池化后特征圖的寬度和高度，將其平鋪為1×rt后輸入到全連接層中，全連接層的第l個神經元的輸出表示為：

其中W_l為全連接第l個神經元的權重參數，b_l是第l個神經元的偏置權重。