[發明專利]一種基于低比特脈沖神經網絡的圖像數據分類方法和裝置

有效

• 申請號: 202210261211.5
• 申請日: 2022-03-17
• 公開（公告）號: CN114332545B
• 公開（公告）日: 2022-08-05
• 發明（設計）人: 張徽;時拓;劉琦;高麗麗;王志斌;顧子熙;崔獅雨;李一琪
• 申請（專利權）人: 之江實驗室
• 主分類號: G06V10/764
• 分類號: G06V10/764;G06V10/774;G06V10/82;G06N3/04
• 代理公司: 杭州浙科專利事務所(普通合伙) 33213
• 代理人: 孫孟輝

1.一種基于低比特脈沖神經網絡的圖像數據分類方法，其特征在于，包括以下步驟：

步驟一，獲取開源圖像數據集，分為訓練集和測試集，其中數據集包括計算機圖像數據和神經形態數據；

步驟二，構建包含隱含層的脈沖神經網絡模型，再改進LIF神經元，構建基于改進后的LIF神經元的脈沖神經網絡模型；所述構建包含隱含層的脈沖神經網絡模型，具體包括以下步驟：

步驟2.1，構建網絡模型的輸入層，將輸入數據模擬量編碼成脈沖時間序列；輸入數據具體包括：若輸入數據為計算機圖像數據，對計算機圖像數據進行編碼成脈沖時間序列，其中時間步長為T，通過使用獨立且同分布的伯努利采樣，將每個歸一化像素在每個時間步概率地轉換為尖峰事件；若輸入數據為神經形態數據，對神經形態數據進行預處理：累積脈沖數據以降低時間分辨率，時間步長為T，但不進行編碼成脈沖時間序列的操作；

步驟2.2，構建網絡模型的隱含層，構建L組脈沖神經元作為不同的隱含層，其中輸入層與隱含層、隱含層與隱含層、隱含層與輸出層之間的連接均代表任意的線性操作，包括全連接的神經網絡層、卷積神經網絡層；

步驟2.3，構建網絡模型的輸出層，網絡的輸出層采用不會發放脈沖和重置膜電位的神經元，其數量與設置的時間步長數量相同；輸出層即為網絡最后的分類層，輸出為：對隱含層的神經元放電量使用初始放電率加權平均，得到隱含層神經元放電率，表達式：，

：一組脈沖神經元在T個時間步長時的放電向量；

：輸入數據在每個時間步長期間的放電頻率向量；

：時間步長數量；

所述改進LIF神經元，具體為構建閾值可調的LIF神經元，表達式為：

其中是指對于該神經元共有個來自于層神經元的輸入；

：LIF神經元的泄漏量；

：第層脈沖神經元在第t個時間步的電壓值；

：第層脈沖神經元的閾值電壓；

：第層脈沖神經元在第t個時間步的脈沖值；

：第層突觸的全精度權重；

步驟三，通過構建訓練損失函數并進行各項梯度求解，對脈沖神經網絡模型進行訓練；

步驟四，在訓練集上使用梯度下降參數更新方法進行脈沖神經網絡模型優化訓練；

步驟五，利用構建并訓練好的脈沖神經網絡模型，對測試集進行識別，得到預測的數據分類標簽，由此實現圖像數據分類。

2.如權利要求1所述的一種基于低比特脈沖神經網絡的圖像數據分類方法，其特征在于，所述步驟一，具體為：所述開源圖像數據集采用MNIST數據集和N-MNIST數據集，分別分出各自的訓練集和測試集，其中MNIST數據集為計算機圖像數據， N-MNIST數據集為神經形態數據。

3.如權利要求1所述的一種基于低比特脈沖神經網絡的圖像數據分類方法，其特征在于，所述步驟三，具體包括以下子步驟：

步驟3.1，構建模型訓練中的損失函數，包括：均方差損失函數，表示脈沖神經網絡模型的輸出，表示訓練樣本的標簽，以及采用2-范數損失函數的低比特權重更新的損失函數；

因此訓練中的損失函數可表示為：

：第層量化后低比特突觸的權重；

步驟3.2，基于LIF神經元計算公式求解權重的梯度：

其中，：梯度計算符號；

步驟3.3，基于計算得到的權重的梯度更新突觸的權重，更新低比特突觸的權重，具體表示式如下：

其中表示第層突觸的整數權重，表示第層量化因子，初始化為，：量化的比特值。

4.一種基于低比特脈沖神經網絡的圖像數據分類裝置，其特征在于，包括一個或多個處理器，用于實現權利要求1-3中任一項所述的基于低比特脈沖神經網絡的圖像數據分類方法。

5.一種計算機可讀存儲介質，其特征在于，其上存儲有程序，該程序被處理器執行時，實現權利要求1-3中任一項所述的基于低比特脈沖神經網絡的圖像數據分類方法。