[發明專利]支持億級神經元的類腦計算機

有效

• 申請號: 202011255472.3
• 申請日: 2020-11-11
• 公開（公告）號: CN112270407B
• 公開（公告）日: 2022-09-13
• 發明（設計）人: 潘綱;馬德;李一濤;戴書畫
• 申請（專利權）人: 浙江大學
• 主分類號: G06N3/06
• 分類號: G06N3/06;G06N5/04
• 代理公司: 杭州天勤知識產權代理有限公司 33224
• 代理人: 曹兆霞

本發明公開了一種支持億級神經元的類腦計算機，包括層級拓展的體系架構和體系架構內部演算過程控制；所述體系架構包括層級化組織管理的多個用于實現計算任務的類腦計算芯片，每個類腦計算芯片包含計算神經元和突觸資源并形成神經網絡，體系架構內計算神經元之間的脈沖事件通過層級化傳輸模式實現傳輸；所述演算過程控制包括控制體系架構內計算任務的并行處理，控制體系架構內同步時間的管理，控制體系架構內神經網絡的重構來實現計算神經元與突觸資源的容錯性和魯棒性管理。該類腦計算機能夠支持神經元規模上億的脈沖神經網絡推理計算。

技術領域

本發明屬于人工神經網絡技術領域，具體涉及一種支持億級神經元的類腦計算機。

背景技術

自1945年提出馮諾依曼架構以來，基于該架構的計算機沿用至今，其基本特征是內存與計算單元分離。存算分離的優點是軟件可編程，即同一硬件平臺可以通過存儲不同的軟件來執行不同功能，缺點就是存儲單元與計算單元之間的通信會成為性能瓶頸。得益于半導體產業按照摩爾定律的快速發展，馮諾依曼體系架構的計算性能指數增長了數十年，近年來“內存墻”與“功耗墻”效應日趨嚴重，摩爾定律已經逐步趨于失效，靠工藝進步獲得的性能紅利逐漸減弱。在后摩爾時代，半導體行業迫切需要尋求新的架構與方法以滿足電子產業對不斷提高的計算性能和極低功耗的需求。隨著腦科學的發展，人們逐漸了解到人腦是一部極高能效的計算機，類腦計算應運而生。內存與計算單元合二為一，從根本上去除了經典馮諾依曼體系架構的“內存墻”問題。類腦計算的基本思路是將生物神經網絡的概念應用于計算機系統設計，針對智能信息處理的特定應用來提高性能與降低功耗。由于在真實世界學習的任務中展現出獨特優勢，迅速成為業界研究熱點。

2004年，斯坦福大學教授Kwabena Boahen研制出基于模擬電路的類腦芯片Neurogrid。2005年，英國Manchester大學開始研制基于ARM的多核超級計算機SpiNNaker，主要是用ARM來模擬神經元，于2018年達到100萬核規模，但是功耗較大。2014年，IBM在DARPA的SyNapse項目支持下發布神經芯片TrueNorth，支持百萬個脈沖神經元和上億神經突觸。2015年，瑞士聯邦蘇黎士理工學院發布了一款基于數模混合電路極低功耗神經芯片。同年，浙江大學聯合杭州電子科技大學發布了Dawin 1代。2018年，芯片巨頭英特爾展示了其首款自學習芯片Loihi。2019，清華大學發布了ANN混合SNN的Tianjic。

雖然類腦芯片發展迅速，但是因為單個神經元的功能有限，只有數以百萬計的神經元協同工作才能在特定智能信息處理方面表現出獨特優勢，因此通過類腦芯片的集成實現神經元的大規模化一直是熱門方向，對大規模類腦計算機的研究也在蓬勃發展。2015年歐盟腦計劃推出了BrainScaleS，用20個wafer組裝成計算系統，達到400萬神經元規模；2017，IBM基于TrueNorth芯片，發布了Blue Raven類腦計算機，達到6400萬神經元規模，而功耗只有60W；2020年，Intel基于Loihi芯片，發布了Pohiki Springs類腦計算機，達到了1億神經元規模；同年，浙江大學聯合之江實驗室發布了Darwin Mouse，達到1.2億神經元規模，處于國際領先水平。類腦計算機的規模正越來越大，但具體實施絕對不是簡單的堆疊類腦芯片，會面臨脈沖數據傳輸瓶頸、各任務間算法時間同步、大規模計算資源故障率提升等一系列問題，有很重要的研究意義。

發明內容

本發明的目的提供一種支持億級神經元的類腦計算機，使其能夠支持神經元規模上億的脈沖神經網絡推理計算。

為實現上述發明目的，本發明提供的技術方案為：

一種支持億級神經元的類腦計算機，包括層級拓展的體系架構和體系架構內部演算過程控制；

所述體系架構包括層級化組織管理的多個用于實現計算任務的類腦計算芯片，每個類腦計算芯片包含計算神經元和突觸資源并形成神經網絡，體系架構內計算神經元之間的脈沖事件通過層級化傳輸模式實現傳輸；