[發明專利]一種面向多脈沖神經網絡監督學習的精確突觸調整方法

有效

• 申請號: 201810543847.2
• 申請日: 2018-05-31
• 公開（公告）號: CN108710770B
• 公開（公告）日: 2022-03-25
• 發明（設計）人: 徐小良;盧文思;金昕
• 申請（專利權）人: 杭州電子科技大學
• 主分類號: G06F30/27
• 分類號: G06F30/27;G06N3/08
• 代理公司: 浙江千克知識產權代理有限公司 33246
• 代理人: 周希良

1.一種面向多脈沖神經網絡監督學習的精確突觸調整方法，其特征在于，包括如下步驟：

步驟1：利用LIF神經元對膜電壓與突觸電流進行仿真計算

在LIF神經元電路中，當電流I不斷增大時，電容C兩極的電壓會沖破閾值V_th，此時會激發一個脈沖信號傳遞給下一層神經元；電路總電流的公式為：

將時間設為一個常數T，并且令T＝RC，上述式子變形為：

當電壓在t＝t^f時達到閾值V_th，產生一個脈沖激勵；在此之后，電壓會被迅速重置為初始值，并開始新一輪的累計；重設電壓的表達式為：

此時，神經元膜電壓的動態方程如下所示：

V_m是膜電壓，E是復位電壓，I_ns是環境噪聲電流，I_syn是突出輸入電流，R_m是膜電阻；當V_m超過閾值V_th，該神經元就會放出脈沖，同時電壓回歸E；

步驟2：基于W-H規則進行突觸權值調整

SNN神經元產生的脈沖有序數列S＝{t^f:f＝1,…F}，表示為：

δ(x)表示Dirac delta函數，若x＝0時，δ(x)＝1，否則δ(x)＝0；t^f是第f個脈沖產生的時間；SNN學習算法針對原始信號給出的多個輸入脈沖序列S_i(t)及預先設定的多個目標脈沖序列S_d(t)，學習得到合適的SNN突觸權值矩陣w，使神經元實際輸出脈沖序列S_o(t)與S_d(t)盡可能接近；

基于W-H規則的權值誤差計算如下：

突觸后神經元在時間T內所獲取的輸入電流I_syn：

其中，w_i代表時間T內第i個輸入神經元的權重，則是不加權重的第i個輸入神經元的突觸后電流大小：

H(x)是Heaviside函數，當x0時其值為0，當x＝0時其值為0.5，當x0時其值為1；是PSP的歸一化表達式：

權值誤差的微分原始定義為：

由此推導出Δw_i與突觸后電流的關系；定義輸入脈沖序列S_i(t)，實際輸出脈沖序列S_o(t)和期望輸出脈沖序列S_d(t)的表達式：

其中，F₁，F₂，F₃表示脈沖序列的最大個數；利用微積分定理得到Δw_i與實際輸出脈沖序列S_o(t)、期望輸出脈沖序列S_d(t)及突觸后電流的關系如下：

將式子展開得到Δw_i的最終形式：

步驟3：利用SRM神經元實現膜電壓閾值動態計算

利用SRM神經元模型實現膜電壓閾值動態調整，SRM神經元模型的仿真公式為：

其中，w_i表示突觸權值，是突觸后電勢，是外部刺激電壓；表示PSP達到閾值后產生不應期并重置為初始值的過程；將輸出神經元在目標脈沖輸出時間t_d的電壓表示為并且希望此函數值等于或高于閾值電壓V_th；但在一開始的訓練過程中，神經元電位在實際脈沖輸出時間t_o時的電壓才會大于等于閾值電壓；因此將當前閾值電壓的計算公式設為：

令為前一次迭代后的閾值電壓，則當前閾值電壓的改變量為：

∑h_i(t_o-t_d)和V^ext都是常數，對關于w_i求導可得：

則Δv_th(t_o)化簡成：