[發明專利]融合脈沖神經網絡信息處理方法及融合脈沖神經網絡

有效

• 申請號: 202110286718.1
• 申請日: 2021-03-17
• 公開（公告）號: CN112966814B
• 公開（公告）日: 2023-05-05
• 發明（設計）人: 陳克林;鄒卓;楊力鄺;王立華;呂正祥;陳旭;馬沖;張陽;張華秋;秦旭;傅夢璇;梁龍飛
• 申請（專利權）人: 上海新氦類腦智能科技有限公司
• 主分類號: G06N3/049
• 分類號: G06N3/049;G06N3/0464;G06N3/0442;G06N3/045;G06N3/063
• 代理公司: 上海科盛知識產權代理有限公司 31225
• 代理人: 蔡彭君

本發明涉及一種融合脈沖神經網絡信息處理方法及融合脈沖神經網絡，方法包括：接收配置指令，并讀取配置指令中的需要配置的脈沖神經網絡種類，其中，脈沖神經網絡的種類包括通用脈沖神經網絡和特定脈沖神經網絡；根據脈沖神經網絡的種類劃分存儲器的地址空間，并在寄存器中寫入配置信息；讀取配置信息，并基于配置信息選擇對應的控制單元調用脈沖計算單元進行脈沖計算并在存儲器中存儲脈沖計算結果。與現有技術相比，本發明在克服了通用脈沖神經網絡連接存儲面積大和特定脈沖神經網絡通用性不強的缺點的同時可以減小芯片的晶體管數量，縮小芯片體積，以及在相同晶體管數量的情況下提升芯片的效能。

技術領域

本發明涉及神經網絡芯片領域，尤其是涉及一種融合脈沖神經網絡信息處理方法及融合脈沖神經網絡。

背景技術

脈沖神經網絡(SNN)近年來以其低功耗和更接近人腦的特點吸引了學術界和產業界的關注。在脈沖神經網絡中，軸突是接收脈沖的單元，神經元是發送脈沖的單元，一個神經元通過樹突連接到多個軸突，樹突和軸突的連接點稱為突觸。軸突接收到脈沖后，所有和這一軸突有突觸連接的樹突會收到脈沖，進而影響到樹突下游神經元。神經元將來自多個軸突的脈沖累加，如果數值超過閾值，就向下游發送一個脈沖。脈沖神經網絡內傳播的是1比特的脈沖，脈沖的激活頻率比較低，并且只需要加減法運算，沒有乘法運算。相比于基于深度學習的神經網路，脈沖神經網絡功耗更低。

基于神經生物學的研究成果，發現人腦的神經元脈沖激活頻率在10Hz左右，兩次脈沖之間間隔在數毫秒。因此實現中每個神經元每1毫秒左右處理一次輸入脈沖。另外加減法運算需要的時間在納秒級。我們可以使用時分復用的方法，多個神經元復用同一個運算單元對不同軸突進行處理。

要對運算單元進行時分復用，就必須知道軸突和神經元的連接關系，這一關系就是突觸連接。一個軸突上接收到了脈沖，所有和這個軸突有突觸連接的神經元都受到影響，和這個軸突沒有突觸連接的神經元則不受影響。突觸連接關系是存儲在突觸連接RAM中的。通常的實現中一個神經元核集成了多個神經元。同一個核中所有的神經元共用計算電路，這個核所有的輸入軸突和核中所有的神經元的連接關系存在同一塊突觸連接RAM中。

現有技術中，主要包括兩類脈沖神經網絡，分別是通用脈沖神經網絡和包括基于卷積神經網絡在內的特定脈沖神經網絡。其中通用脈沖神經網絡的優點是可編程性強，可以適配到不同的神經網絡與應用。而特定神經網絡的優點是在相同的地址空間下實現的神經元數目數倍于通用脈沖神經網絡，但是由于連接關系確定，通用性較差。

一般兩類脈沖神經網絡對應的芯片是分開的，因此不同的應用場景需要采用不同的芯片，這種方式一旦芯片定型便無法更改，為了解決該問題，本領域有技術人員提出了將兩者合二為一的想法，但是這種組合過程僅僅停留在輸入輸出端口的共用上，兩個脈沖神經網絡相對比較獨立，因此成本較高。

發明內容

本發明的目的就是為了提供一種融合脈沖神經網絡信息處理方法及融合脈沖神經網絡，實現了通用脈沖神經網絡和特定脈沖神經網絡的脈沖計算單元以及存儲單元的復用，復用程度高，在克服了通用脈沖神經網絡連接存儲面積大和特定脈沖神經網絡通用性不強的缺點的同時可以減小芯片的晶體管數量，降低成本，以及在相同晶體管數量的情況下提升芯片的效能。

本發明的目的可以通過以下技術方案來實現：

一種融合脈沖神經網絡信息處理方法，包括：

接收配置指令，并讀取配置指令中的需要配置的脈沖神經網絡種類，其中，所述脈沖神經網絡的種類包括通用脈沖神經網絡和特定脈沖神經網絡；

根據脈沖神經網絡的種類劃分存儲器的地址空間，并在寄存器中寫入配置信息；

讀取配置信息，并基于配置信息選擇對應的控制單元調用脈沖計算單元進行脈沖計算并在存儲器中存儲脈沖計算結果。