[發(fā)明專利]用于可擴(kuò)展流突觸超級計(jì)算機(jī)的方法、系統(tǒng)和介質(zhì)

有效

• 申請?zhí)枺?/td>: 201780047346.9
• 申請日: 2017-09-26
• 公開（公告）號: CN109564637B
• 公開（公告）日: 2023-05-12
• 發(fā)明（設(shè)計(jì)）人: D·莫德哈
• 申請（專利權(quán)）人: 國際商業(yè)機(jī)器公司
• 主分類號: G06N3/02
• 分類號: G06N3/02
• 代理公司: 中國貿(mào)促會專利商標(biāo)事務(wù)所有限公司 11038
• 代理人: 李穎

提供了用于極端吞吐量神經(jīng)網(wǎng)絡(luò)的可擴(kuò)展流突觸超級計(jì)算機(jī)。基本上并行地確定第一神經(jīng)突觸核心的多個(gè)神經(jīng)元的激發(fā)狀態(tài)。基本上并行地將多個(gè)神經(jīng)元的激發(fā)狀態(tài)傳遞到至少一個(gè)另外的神經(jīng)突觸核心。

技術(shù)領(lǐng)域

本發(fā)明的實(shí)施例涉及神經(jīng)形態(tài)系統(tǒng)，更具體地，涉及用于極端吞吐量神經(jīng)網(wǎng)絡(luò)的可擴(kuò)展流突觸(stream?synaptic)超級計(jì)算機(jī)。

背景技術(shù)

神經(jīng)形態(tài)系統(tǒng)是含有受神經(jīng)生物系統(tǒng)啟發(fā)的電子電路的超大規(guī)模集成(VLSI)系統(tǒng)。現(xiàn)有這種神經(jīng)形態(tài)系統(tǒng)的缺點(diǎn)包括高能耗(運(yùn)行成本)和面積(設(shè)備成本)。

因此，本領(lǐng)域需要解決上述問題。

發(fā)明內(nèi)容

根據(jù)本公開的實(shí)施例，提供了一種用于操作神經(jīng)網(wǎng)絡(luò)的方法和計(jì)算機(jī)程序產(chǎn)品。基本上并行地確定第一神經(jīng)突觸核心的多個(gè)神經(jīng)元的激發(fā)狀態(tài)。基本上并行地將多個(gè)神經(jīng)元的激發(fā)狀態(tài)傳遞到至少一個(gè)另外的神經(jīng)突觸核心(neurosynaptic?core)。

根據(jù)本公開的實(shí)施例，提供了一種神經(jīng)形態(tài)系統(tǒng)。該系統(tǒng)包括多個(gè)神經(jīng)突觸核心。所述神經(jīng)突觸核心包括多個(gè)軸突(axons)，多個(gè)突觸(synapses,)和多個(gè)神經(jīng)元(neurons)。核心間網(wǎng)絡(luò)連接所述多個(gè)神經(jīng)突觸核心。所述核心間網(wǎng)絡(luò)適于基本上并行地從所述多個(gè)神經(jīng)突觸核心的第一神經(jīng)突觸核心向至少一個(gè)另外的神經(jīng)突觸核心傳遞所述第一神經(jīng)突觸核心的多個(gè)神經(jīng)元的激發(fā)狀態(tài)。

根據(jù)本公開的實(shí)施例，提供了一種用于模擬神經(jīng)網(wǎng)絡(luò)的方法和計(jì)算機(jī)程序產(chǎn)品。模擬多個(gè)神經(jīng)突觸核心。模擬的神經(jīng)突觸核心包括多個(gè)模擬的軸突、多個(gè)模擬的突觸和多個(gè)模擬的神經(jīng)元。模擬連接所述多個(gè)模擬的神經(jīng)突觸核心的網(wǎng)絡(luò)。模擬基本上并行地確定模擬的神經(jīng)突觸核心的第一個(gè)的多個(gè)模擬的神經(jīng)元的激發(fā)狀態(tài)。模擬將所述多個(gè)模擬的神經(jīng)元的激發(fā)狀態(tài)基本上并行地傳遞到至少一個(gè)另外的模擬的神經(jīng)突觸核心。

附圖說明

現(xiàn)在將僅通過示例的方式參考如以下附圖所示的優(yōu)選實(shí)施例來描述本發(fā)明：

圖1示出了根據(jù)本公開的實(shí)施例的提取神經(jīng)突觸核心。

圖2描繪了根據(jù)本公開的實(shí)施例的神經(jīng)突觸核心和網(wǎng)狀路由器(mesh?router)。

圖3示出了根據(jù)本公開的實(shí)施例的神經(jīng)突觸核心的數(shù)學(xué)表示。

圖4示出了根據(jù)本公開實(shí)施例的用于芯片間通信的示例性架構(gòu)。

圖5示出了根據(jù)本公開實(shí)施例的用于操作神經(jīng)突觸網(wǎng)絡(luò)的示例性方法。

圖6示出了根據(jù)本公開實(shí)施例的用于模擬神經(jīng)突觸網(wǎng)絡(luò)的示例性方法。

圖7A-B示出了根據(jù)本公開實(shí)施例的神經(jīng)形態(tài)系統(tǒng)的示例性布局。

圖8描繪了根據(jù)本發(fā)明的實(shí)施例的計(jì)算節(jié)點(diǎn)。

具體實(shí)施方式

極低功率神經(jīng)突觸處理單元陣列(稱為神經(jīng)突觸核心)提供了解決百萬兆(exascale)大數(shù)據(jù)問題的架構(gòu)。這些核心使用尖峰(spikes)來編碼信息。在神經(jīng)突觸核心網(wǎng)絡(luò)中，每個(gè)核心上的神經(jīng)元可以連接到任何其它神經(jīng)突觸核心(包括其自身)的任何軸突。當(dāng)神經(jīng)元出現(xiàn)尖峰時(shí)，它會發(fā)送一個(gè)尖峰包(spike?packet)，該包被傳遞到目標(biāo)核心上的目標(biāo)軸突。

在數(shù)字尖峰神經(jīng)形態(tài)系統(tǒng)中，信息由尖峰表示和傳遞，其中每個(gè)尖峰是攜帶一個(gè)或多個(gè)比特的數(shù)字信息包。例如，TrueNorth芯片是一種數(shù)字尖峰神經(jīng)形態(tài)系統(tǒng)，其中每個(gè)尖峰都帶有一個(gè)比特的信息(二進(jìn)制尖峰)。諸如TrueNorth之類的尖峰神經(jīng)網(wǎng)絡(luò)基于通過交換通信線路傳送信息包，從而顯著減少所需的布線。尖峰的存在被視為接收1，尖峰的缺失表示0。可以使用幾種不同的尖峰編碼模式將更多值編碼為二進(jìn)制尖峰。IBM是國際商用機(jī)器公司的商標(biāo)，在全球許多司法管轄區(qū)注冊。