[發(fā)明專利]一種可塑性學(xué)習(xí)引擎及其設(shè)計方法

在審

• 申請?zhí)枺?/td>: 201810972302.3
• 申請日: 2018-08-24
• 公開（公告）號: CN109063832A
• 公開（公告）日: 2018-12-21
• 發(fā)明（設(shè)計）人: 胡紹剛;劉夏愷;喬冠超;張成明;劉洋;于奇
• 申請（專利權(quán)）人: 電子科技大學(xué)
• 主分類號: G06N3/063
• 分類號: G06N3/063;G06N3/08
• 代理公司: 成都點睛專利代理事務(wù)所(普通合伙) 51232
• 代理人: 孫一峰

本發(fā)明涉及神經(jīng)形態(tài)硬件技術(shù)領(lǐng)域，特別涉及一種可塑性學(xué)習(xí)引擎及其設(shè)計方法。本發(fā)明的學(xué)習(xí)引擎包括一個學(xué)習(xí)引擎頂層模塊，和外部神經(jīng)網(wǎng)絡(luò)推理模塊對接；一個參數(shù)PRE更新模塊，用于更新突觸前軌跡參數(shù)PRE；一個參數(shù)PRE存儲控制模塊，用于讀寫參數(shù)PRE；至少一個神經(jīng)元模塊，用于進行在線學(xué)習(xí)并更新權(quán)值和突觸前軌跡參數(shù)POST；每個神經(jīng)元模塊中包含一個突觸前事件控制模塊，用于在突觸前事件發(fā)生時更新權(quán)值；每個神經(jīng)元模塊中包含一個突觸后事件控制模塊，用于在突觸后事件發(fā)生時更新權(quán)值，并更新參數(shù)POST；每個神經(jīng)元模塊中包含一個算數(shù)邏輯模塊，用于進行運算過程中的數(shù)值計算；每個神經(jīng)元模塊中包含一個參數(shù)POST存儲控制模塊，用于讀寫單個神經(jīng)元的參數(shù)POST。

技術(shù)領(lǐng)域

本發(fā)明涉及神經(jīng)形態(tài)硬件技術(shù)領(lǐng)域，特別涉及一種可塑性學(xué)習(xí)引擎及其設(shè)計方法。

背景技術(shù)

脈沖神經(jīng)網(wǎng)絡(luò)(簡稱SNN)被稱為第三代神經(jīng)網(wǎng)絡(luò)，它更接近于人腦處理信息的方式，是未來神經(jīng)網(wǎng)絡(luò)技術(shù)的發(fā)展方向。SNN基于脈沖序列來接收信息，有很多編碼方式可以把脈沖序列解釋為一個實際的數(shù)字，常用的編碼方式有脈沖編碼和頻率編碼。神經(jīng)元之間的通信也是通過脈沖來進行，當一個神經(jīng)元的膜電位大于它的閾值，它會產(chǎn)生一個脈沖信號傳遞給其他神經(jīng)元，提高或降低其膜電位。SNN的訓(xùn)練方式主要有兩種，一種是通過在特定條件下訓(xùn)練相應(yīng)的人工神經(jīng)網(wǎng)絡(luò)(簡稱ANN)再把訓(xùn)練好的參數(shù)映射到SNN中，但是在映射過程中往往會需要傳遞大量的參數(shù)；另外一種是直接進行SNN的在線學(xué)習(xí)。

突觸可塑性(Synaptic plasticity)是指神經(jīng)細胞間的突觸，其連接強度可調(diào)節(jié)的特性。該過程基于特定神經(jīng)元的輸出和輸入動作電位(或脈沖)的相對時間來調(diào)整連接強度。突觸可塑性相關(guān)算法是進行SNN的在線學(xué)習(xí)的重要算法，可調(diào)控突觸權(quán)重、突觸接受前后神經(jīng)元脈沖對的時序和間隔控制著權(quán)重變化的方向和強度，從而完成對SNN的訓(xùn)練。

隨著SNN的規(guī)模的不斷擴展，對SNN的訓(xùn)練難度也在不斷增大。將在線學(xué)習(xí)部分放在神經(jīng)網(wǎng)絡(luò)中會消耗大量資源，甚至拖慢神經(jīng)網(wǎng)絡(luò)的正常運行效率。且不同規(guī)模、不同參數(shù)的SNN的訓(xùn)練過程也有所不同，針對每一種SNN單獨設(shè)計對應(yīng)學(xué)習(xí)模塊也會消耗大量時間和金錢成本。

對此，可將在線學(xué)習(xí)獨立到神經(jīng)網(wǎng)絡(luò)之外，作為一個獨立的學(xué)習(xí)引擎并封裝為數(shù)字芯片。使用時將學(xué)習(xí)引擎與外部神經(jīng)網(wǎng)絡(luò)推理模塊互連，并可根據(jù)需要對學(xué)習(xí)引擎進行參數(shù)配置，從而與有著不同規(guī)模和種類的外部神經(jīng)網(wǎng)絡(luò)推理模塊對接，完成對神經(jīng)網(wǎng)絡(luò)的訓(xùn)練。

發(fā)明內(nèi)容

本發(fā)明綜合分析多種突觸可塑性學(xué)習(xí)機制特征后，提出了一種兼容脈沖時序依賴可塑性(Spike-timing-dependent plasticity，STDP)、頻率依賴STDP、三脈沖STDP(Triplet STDP)、獎勵調(diào)制STDP(Reward-modulated STDP)、Hebbian學(xué)習(xí)規(guī)則、短時程可塑性(short-term plasticity，STP)、短時程增長時程增強(Long-term potentiation，LTP)、長時程抑制(Long-term depression，LTD)等突觸可塑性學(xué)習(xí)機制的可塑性學(xué)習(xí)引擎，其特征在于，包括：

一個學(xué)習(xí)引擎頂層模塊，和外部神經(jīng)網(wǎng)絡(luò)推理模塊對接，包含下述子模塊；

一個參數(shù)PRE更新模塊，用于更新突觸前軌跡參數(shù)PRE，其中包含一個小型算數(shù)邏輯單元，包括了加法器，減法器，乘法器，除法器四個模塊；

一個參數(shù)PRE存儲控制模塊，用于讀寫參數(shù)PRE，其中包含一個參數(shù)PRE存儲器；

至少一個神經(jīng)元模塊，用于進行在線學(xué)習(xí)并更新權(quán)值和突觸前軌跡參數(shù)POST；

每個神經(jīng)元模塊中包含一個突觸前事件控制模塊，用于在突觸前事件發(fā)生中更新權(quán)值；

每個神經(jīng)元模塊中包含一個突觸后事件控制模塊，用于在突觸后事件發(fā)生中更新權(quán)值，并更新參數(shù)POST；