[發明專利]一種脈沖神經網絡儲備池計算模型構建方法及裝置

在審

• 申請號: 202211276694.2
• 申請日: 2022-10-19
• 公開（公告）號: CN115358375A
• 公開（公告）日: 2022-11-18
• 發明（設計）人: 黎溈安;楊冬平
• 申請（專利權）人: 之江實驗室
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/063;G06N3/08
• 代理公司: 北京志霖恒遠知識產權代理有限公司 11435
• 代理人: 戴莉

1.一種脈沖神經網絡儲備池計算模型構建方法，其特征在于，包括如下步驟：

步驟S1、設置儲備池計算模型的輸入層神經元數量、隱藏層神經元數量和讀出層神經元數量；

步驟S2、通過在[0, 1]范圍內的均勻采樣得到的隨機矩陣，設置為輸入層和隱藏層之間的輸入連接權重，所述隨機矩陣的行列數分別對應隱藏層神經元數量、輸入層神經元數量；

步驟S3、構建脈沖神經元的膜電位動力學方程、脈沖神經網絡突觸可塑性的動力學方程和脈沖神經元膜電位動態時間尺度模型以及突觸動態時間尺度模型，并利用上述方程和模型構建基于脈沖神經元的脈沖神經網絡儲備池隱藏層；

步驟S4、執行任務時，進入學習階段，將輸入序列讀入至儲存池計算模型，將每個時刻的信號乘上輸入連接權重后輸入給隱藏層，采集并存儲每個時刻網絡內部所有脈沖神經元的膜電位狀態向量，作為狀態向量矩陣；收集并存儲每個時刻目標讀出向量，作為目標讀出向量矩陣；

步驟S5、根據狀態向量矩陣和目標讀出向量矩陣，通過線性回歸算法，訓練得到從隱藏層連接到讀出神經元的連接矩陣，作為讀出連接權重，學習階段結束；

步驟S6、學習階段結束后進入測試階段，將新的輸入序列通過輸入權重矩陣進入脈沖神經網絡儲備池中，收集到新的狀態向量矩陣，再根據訓練好的讀出連接權重，將新的狀態向量矩陣乘上讀出連接權重，得到每個時刻的預測輸出。

2.如權利要求1所述的一種脈沖神經網絡儲備池計算模型構建方法，其特征在于：所述儲備池計算模型的讀出連接權重只訓練一次，所述讀出連接權重學習完成后固定不變。

3.如權利要求1所述的一種脈沖神經網絡儲備池計算模型構建方法，其特征在于：所述脈沖神經元膜電位動力學方程，描述符合真實生物神經元情況的簡化的神經元膜電位的變化過程，神經元接收外部輸入，以及接收到來自與自身連接的其它神經元發射的脈沖輸入，當神經元接收到脈沖后，自身膜電位會上升，當膜電位超過閾值，神經元會發射一個脈沖，傳遞給相連的下游神經元，同時膜電位會被重新置位。

4.如權利要求1所述的一種脈沖神經網絡儲備池計算模型構建方法，其特征在于：所述步驟S3的具體子步驟如下：

步驟S31、根據神經元膜電位時間常數、突觸權重、泄露項以及網絡內部神經元之間的通信和網絡的外部輸入，構建脈沖神經元膜電位動力學方程，用于描述神經元膜電位隨時間變化的過程；

步驟S32、根據突觸時間常數，并依據真實生物的大腦中神經元之間突觸的一個動力學變化過程，構建脈沖神經網絡短期突觸抑制的突觸可塑性動力學方程，用于描述突觸權重的值隨時間變化的過程；

步驟S33、根據單神經元實驗擬合真實數據得到的參數構建脈沖神經元膜電位動態時間尺度模型以及突觸動態時間尺度模型，用于分別描述神經元膜電位時間常數和突觸時間常數值受神經元膜電位的影響并隨時間變化的過程；

步驟S34、根據上述步驟構建得到的脈沖神經元膜電位動力學方程和脈沖神經網絡短期突觸抑制的突觸可塑性動力學方程，引入脈沖神經元膜電位動態時間尺度模型以及突觸動態時間尺度模型，構建基于脈沖神經元的脈沖神經網絡儲備池隱藏層。

5.如權利要求4所述的一種脈沖神經網絡儲備池計算模型構建方法，其特征在于：所述神經元膜電位時間常數表示神經元膜電位在沒有輸入時自衰減的速度；所述突觸權重表示從突觸前神經元到突觸后神經元的突觸連接池中獲得的神經遞質資源池的值；所述突觸時間常數表示突觸前神經元發射了一個脈沖后到下一次發射脈沖前，神經元的神經遞質的數量得到恢復的時間，用于控制從突觸前神經元到突觸后神經元的突觸連接池中獲得的神經遞質資源池的增長速度。

6.如權利要求1所述的一種脈沖神經網絡儲備池計算模型構建方法，其特征在于：所述步驟S4中的所述輸入序列為一個時間序列，將時間序列通過儲備池模型的輸入層，線性讀入到儲備池模型的隱藏層中，此時隱藏層中的神經元膜電位隨著時間并依據步驟S3中所構建的方程和模型進行演變，具有一個動力學過程。