[發明專利]一種自適應脈沖神經網絡結構

在審

• 申請號: 202111371998.2
• 申請日: 2021-11-18
• 公開（公告）號: CN116151333A
• 公開（公告）日: 2023-05-23
• 發明（設計）人: 吳益飛;鄭瑞琳;陳慶偉;郭健;李勝;樊衛華;梁皓;成愛萍;趙鵬
• 申請（專利權）人: 南京理工大學
• 主分類號: G06N3/049
• 分類號: G06N3/049;G06N3/0442;G06N3/08
• 代理公司: 南京理工大學專利中心 32203
• 代理人: 朱炳斐

本發明公開了一種自適應脈沖神經網絡結構，包括輸入層、激勵層、抑制層和輸出層。激勵層為三層網絡結構，其第一層與輸入層形成全連接結構，其第三層與輸出層形成全連接結構；抑制層為三層網絡結構，其到激勵層的連接為一對一連接，而抑制層到激勵層的連接為一對多連接；具體地，抑制層的輸入端與激勵層的每層脈沖神經元一對一連接，輸出端與對應激勵層的其他神經元進行全連接，形成環形連接。本發明構建的脈沖神經網絡具備自組織、自適應能力，能根據輸入的數據自適應的調節網絡結構。

技術領域

本發明屬于人工智能技術領域，特別是一種自適應脈沖神經網絡結構。

背景技術

隨著對大腦結構、信息處理方式的逐步了解，人們建立起了基于生物神經網絡的、簡化抽象的數學模型—人工神經網絡。人工神經網絡模仿生物神經網絡的信息處理方式，在模式識別、自動控制、機器學習等領域取得了巨大的成功。

脈沖神經網絡是目前生物可解釋性最強的人工神經網絡，與傳統的前饋神經網絡和深度學習神經網絡相比具有更強的仿生性，脈沖神經網絡的研究對類腦智能有著重要意義。現有的脈沖神經網絡結構主要可分為前饋型、遞歸型、混合型網絡結構，其中前饋型的網絡采用全連接的方式，雖然這種網絡能夠達到較好的學習效果，但是訓練時間長，過程復雜，基本不能實現快速的在線學習。

因此，設計一種自適應脈沖神經網絡結構有利于推動脈沖神經網絡的研究和應用，對人工智能行業有著重要的意義。

在脈沖神經網絡結構，已經有學者做了一些研究。文獻“Unsupervised?learningof?digit?recognition?using?spike-timing-dependent?plasticity”采用全連接的前饋脈沖神經網絡結構實現了對MNIST手寫數字的識別，但是訓練的時間比較久，不適用于大規模的網絡。“Supervised?learning?in?spiking?neural?networks?with?ReSuMe:sequencelearning,classification,and?spiking?shifting”使用液體狀態機結構的脈沖神經網絡結構，并完成了對其訓練，但是這種結構需要訓練的參數較多。

發明內容

本發明的目的在于針對上述現有技術存在的問題，提供一種能實現快速學習的脈沖神經網絡結構。

實現本發明目的的技術解決方案為：一種自適應脈沖神經網絡結構，該結構包括輸入層、激勵層、抑制層和輸出層；

所述輸入層，用于為整個脈沖神經網絡提供脈沖信號；

所述激勵層，用于實現保證記憶信息的同時，降低網絡深度；

所述抑制層，用于抑制激勵層的過激行為；

所述輸出層，用于輸出脈沖序列。

進一步地，所述激勵層為三層網絡結構，所述激勵層的第一層與輸入層形成全連接結構，激勵層的第三層與輸出層形成全連接結構；

所述抑制層為三層網絡結構，其到激勵層的連接為一對一連接，而抑制層到激勵層的連接為一對多連接；具體地，所述抑制層的輸入端與激勵層的每層脈沖神經元一對一連接，輸出端與對應激勵層的其他神經元進行全連接，形成環形連接；當抑制層的脈沖神經元發放脈沖，就會抑制對應激勵層的其他脈沖神經元發放脈沖。

進一步地，該網絡結構在初始狀態時，激勵層的三層網絡間沒有連接，在進行仿真時，經過輸入信號和連接算法的作用，會形成部分連接，該部分連接保證總的連接數量超過全連接數量的一半。

進一步地，所述部分連接的確定方式為：

根據脈沖神經元脈沖發放情況，確定激勵層每層脈沖神經元與后一層脈沖神經元的連接結構，具體包括：

將脈沖神經元發放脈沖的時間映射為一個權值：