[發(fā)明專利]包括多個核心處理模塊的人工神經(jīng)網(wǎng)絡(luò)的處理系統(tǒng)及方法

有效

• 申請?zhí)枺?/td>: 201810249506.4
• 申請日: 2016-04-18
• 公開（公告）號: CN108510064B
• 公開（公告）日: 2021-12-10
• 發(fā)明（設(shè)計）人: 杜子?xùn)|;郭崎;陳天石;陳云霽
• 申請（專利權(quán)）人: 中國科學(xué)院計算技術(shù)研究所
• 主分類號: G06N3/063
• 分類號: G06N3/063;G06F15/78
• 代理公司: 中科專利商標(biāo)代理有限責(zé)任公司 11021
• 代理人: 任巖

1.一種人工神經(jīng)網(wǎng)絡(luò)的處理系統(tǒng)，包括：多核心處理模塊，其包括多個核心處理模塊；其中，該多個核心處理模塊共同復(fù)用輸入神經(jīng)元和/或權(quán)值；

所述神經(jīng)網(wǎng)絡(luò)的處理系統(tǒng)進(jìn)行處理時，將同一輸入神經(jīng)元分別發(fā)送至所述多個核心處理模塊，將不同的輸入權(quán)值分配至不同的核心處理模塊，所述多個核心處理模塊分別將所述輸入神經(jīng)元和輸入權(quán)值進(jìn)行向量內(nèi)積操作后得到不同的輸出神經(jīng)元；

還包括：

至少一片上存儲介質(zhì)，用于存儲由神經(jīng)網(wǎng)絡(luò)處理系統(tǒng)外部傳來的數(shù)據(jù)或用于存儲處理過程中產(chǎn)生的數(shù)據(jù)；以及

至少一ALU模塊，用于從所述多核心處理模塊或所述片上存儲介質(zhì)獲取輸入數(shù)據(jù)執(zhí)行所述多核心處理模塊無法完成的非線性運(yùn)算；

其中，所述多個核心處理模塊共享所述片上存儲介質(zhì)以及ALU模塊，或者所述多個核心處理模塊具有獨(dú)立的所述片上存儲介質(zhì)以及ALU模塊；

其中，所述神經(jīng)網(wǎng)絡(luò)根據(jù)多核處理模式進(jìn)行神經(jīng)網(wǎng)絡(luò)劃分，包括：從輸入神經(jīng)元劃分、輸出神經(jīng)元劃分和權(quán)值連接劃分；

所述神經(jīng)網(wǎng)絡(luò)的處理系統(tǒng)在執(zhí)行二維或者多維運(yùn)算時，將輸入特征圖分別發(fā)送至所述多個核心處理模塊，所述多個核心處理模塊分別處理一層輸出特征圖；或

所述神經(jīng)網(wǎng)絡(luò)的處理系統(tǒng)在執(zhí)行二維或者多維運(yùn)算時，將輸入特征圖分別發(fā)送至所述多個核心處理模塊，所述多個核心處理模塊分別處理同一輸出特征圖的不同區(qū)域；或

所述神經(jīng)網(wǎng)絡(luò)的處理系統(tǒng)在執(zhí)行一維運(yùn)算時，將同一輸入分別發(fā)送至所述多個核心處理模塊，所述多個核心處理模塊分別處理不同的輸出神經(jīng)元，所述多個核心處理模塊均分別完成當(dāng)前輸出神經(jīng)元的處理后，所述多核心處理模塊再執(zhí)行新的輸入的處理。

2.根據(jù)權(quán)利要求1所述的處理系統(tǒng)，其中，所述多個核心處理模塊共同處理同一特征圖時，共同復(fù)用權(quán)值。

3.根據(jù)權(quán)利要求1或2所述的處理系統(tǒng)，其中，所述多核心處理模塊用于執(zhí)行神經(jīng)網(wǎng)絡(luò)運(yùn)算中的向量乘加操作。

4.根據(jù)權(quán)利要求1所述的處理系統(tǒng)，還包括：

至少一片內(nèi)地址索引模塊，用于執(zhí)行運(yùn)算時根據(jù)輸入的索引映射至正確的存儲地址。

5.根據(jù)權(quán)利要求1或4所述的處理系統(tǒng)，其中，所述處理過程中產(chǎn)生的數(shù)據(jù)包括處理結(jié)果或中間結(jié)算結(jié)果。

6.根據(jù)權(quán)利要求1所述的處理系統(tǒng)，其中，所述多個核心處理模塊均分別完成當(dāng)前輸出特征圖的處理后，所述多核心處理模塊再執(zhí)行新的輸出特征圖處理。

7.根據(jù)權(quán)利要求1所述的處理系統(tǒng)，其中，所述多核心處理模塊的多個核心處理模塊之間為同構(gòu)設(shè)計或異構(gòu)設(shè)計。

8.一種人工神經(jīng)網(wǎng)絡(luò)的處理方法，包括：

將同一輸入神經(jīng)元分別發(fā)送至多個核心處理模塊，將不同的輸入權(quán)值分配至不同的核心處理模塊；以及

多個核心處理模塊分別將輸入神經(jīng)元和輸入權(quán)值進(jìn)行向量內(nèi)積操作后得到不同的輸出神經(jīng)元；

其中，所述神經(jīng)網(wǎng)絡(luò)根據(jù)多核處理模式進(jìn)行神經(jīng)網(wǎng)絡(luò)劃分，包括：從輸入神經(jīng)元劃分、輸出神經(jīng)元劃分和權(quán)值連接劃分；

所述神經(jīng)網(wǎng)絡(luò)的處理系統(tǒng)在執(zhí)行二維或者多維運(yùn)算時，將輸入特征圖分別發(fā)送至所述多個核心處理模塊，所述多個核心處理模塊分別處理一層輸出特征圖；或

所述神經(jīng)網(wǎng)絡(luò)的處理系統(tǒng)在執(zhí)行二維或者多維運(yùn)算時，將輸入特征圖分別發(fā)送至所述多個核心處理模塊，所述多個核心處理模塊分別處理同一輸出特征圖的不同區(qū)域；或

所述神經(jīng)網(wǎng)絡(luò)的處理系統(tǒng)在執(zhí)行一維運(yùn)算時，將同一輸入分別發(fā)送至所述多個核心處理模塊，所述多個核心處理模塊分別處理不同的輸出神經(jīng)元，所述多個核心處理模塊均分別完成當(dāng)前輸出神經(jīng)元的處理后，所述多核心處理模塊再執(zhí)行新的輸入的處理。

9.根據(jù)權(quán)利要求8所述的處理方法，還包括：

將輸入數(shù)據(jù)發(fā)送至多個核心處理模塊，多個核心處理模塊執(zhí)行神經(jīng)網(wǎng)絡(luò)運(yùn)算中的向量乘加操作；以及

將輸入數(shù)據(jù)發(fā)送至ALU模塊，ALU模塊根據(jù)所述多個核心處理模塊的處理結(jié)果或者獲取的輸入數(shù)據(jù)執(zhí)行所述多個核心處理模塊無法完成的非線性運(yùn)算。

10.根據(jù)權(quán)利要求8所述的處理方法，其中，

在將輸入數(shù)據(jù)發(fā)送至多個核心處理模塊或ALU模塊之前，還包括：

片內(nèi)地址索引模塊根據(jù)輸入的索引映射至正確的存儲地址；

根據(jù)所述存儲地址從片上存儲介質(zhì)中獲取輸入數(shù)據(jù)；

在多個核心處理模塊執(zhí)行向量乘加操作及ALU模塊執(zhí)行非線性運(yùn)算之后，還包括：

將處理過程中產(chǎn)生的數(shù)據(jù)緩存至所述片上存儲介質(zhì)。