[發明專利]脈沖神經網絡訓練方法、裝置以及終端在審
| 申請號: | 202211304460.4 | 申請日: | 2022-10-24 |
| 公開(公告)號: | CN115618923A | 公開(公告)日: | 2023-01-17 |
| 發明(設計)人: | 陳旭;陳克林;楊軍民;梁龍飛 | 申請(專利權)人: | 上海新氦類腦智能科技有限公司 |
| 主分類號: | G06N3/04 | 分類號: | G06N3/04 |
| 代理公司: | 上海光華專利事務所(普通合伙) 31219 | 代理人: | 倪靜 |
| 地址: | 200090 上海市楊浦區長陽*** | 國省代碼: | 上海;31 |
| 權利要求書: | 查看更多 | 說明書: | 查看更多 |
| 摘要: | |||
| 搜索關鍵詞: | 脈沖 神經網絡 訓練 方法 裝置 以及 終端 | ||
1.一種脈沖神經網絡訓練方法,其特征在于,包括:
基于脈沖神經網絡,根據輸入實值計算對應的輸出脈沖編碼;
對所述輸出脈沖編碼進行脈沖解碼,以獲得輸出實值;
基于誤差函數,根據所述輸出實值與所述輸入實值所對應的數據標簽計算當前網絡計算誤差,以供在未達到目標精度的情況下更新所述脈沖神經網絡的網絡參數。
2.根據權利要求1中所述的脈沖神經網絡訓練方法,其特征在于,所述脈沖神經網絡采用優化的LIF神經元模型;
其中,所述優化的LIF神經元模型計算方式包括:在所述LIF模型中Leaky-Integrate計算與Fire計算之間均插入批歸一化計算。
3.根據權利要求2中所述的脈沖神經網絡訓練方法,其特征在于,所述批歸一化計算采用的β參數βspike為:
βspike=β+th;
其中,β為傳統歸一化計算采用的β參數,th為神經元電壓閾值。
4.根據權利要求3中所述的脈沖神經網絡訓練方法,其特征在于,所述神經元模型的每一計算層的電壓衰減參數以及神經元電壓閾值均為可學習參數。
5.根據權利要求1中所述的脈沖神經網絡訓練方法,其特征在于,對所述脈沖進行脈沖解碼包括:
基于加權相加法,將脈沖在時間維度上基于不同的權值進行加權;其中,各權值為可學習參數;
在回歸類問題中,加權后的脈沖額外經過可學習的ANN網絡結構得到符合回歸函數的實值映射。
6.一種脈沖神經網絡訓練裝置,其特征在于,所述裝置包括:
脈沖計算模塊,基于脈沖神經網絡,根據輸入實值計算對應的輸出脈沖編碼;
脈沖解碼模塊,連接所述脈沖計算模塊,用于對所述輸出脈沖編碼進行脈沖解碼,以獲得輸出實值;
誤差計算模塊,連接所述脈沖解碼模塊,用于基于誤差函數,根據所述輸出實值與所述輸入實值所對應的數據標簽計算當前網絡計算誤差,以供在未達到目標精度的情況下更新所述脈沖神經網絡的網絡參數。
7.一種脈沖神經網絡訓練終端,其特征在于,包括:一或多個存儲器及一或多個處理器;
所述一或多個存儲器,用于存儲計算機程序;
所述一或多個處理器,連接所述存儲器,用于運行所述計算機程序以執行如權利要求1至5中的任一項所述的方法。
該專利技術資料僅供研究查看技術是否侵權等信息,商用須獲得專利權人授權。該專利全部權利屬于上海新氦類腦智能科技有限公司,未經上海新氦類腦智能科技有限公司許可,擅自商用是侵權行為。如果您想購買此專利、獲得商業授權和技術合作,請聯系【客服】
本文鏈接:http://www.szxzyx.cn/pat/books/202211304460.4/1.html,轉載請聲明來源鉆瓜專利網。





