[發明專利]用于乘加運算的人工神經網絡的處理系統及方法

有效

• 申請號: 201810249510.0
• 申請日: 2016-04-18
• 公開（公告）號: CN108416437B
• 公開（公告）日: 2021-08-03
• 發明（設計）人: 杜子東;郭崎;陳天石;陳云霽
• 申請（專利權）人: 中國科學院計算技術研究所
• 主分類號: G06N3/063
• 分類號: G06N3/063;G06N3/04;G06F15/78
• 代理公司: 中科專利商標代理有限責任公司 11021
• 代理人: 任巖

1.一種人工神經網絡的處理系統，包括：

多核心處理模塊，其包括多個核心處理模塊，用于執行神經網絡運算中的乘加運算，該多個核心處理模塊共同復用輸入神經元和/或權值；

其中，所述神經網絡的處理系統進行處理時，將同一輸入神經元和/或權值分別發送至所述多核心處理模塊中的多個核心處理模塊；其中，所述神經網絡的處理系統進行處理時，將同一輸入神經元分別發送至所述多個核心處理模塊，將不同的輸入權值分配至不同的核心處理模塊，所述多個核心處理模塊分別將所述輸入神經元和輸入權值進行向量內積操作后得到不同的輸出神經元；所述多個核心處理模塊共同處理同一特征圖時，共同復用權值；

至少一片上存儲介質，用于存儲由神經網絡處理系統外部傳來的數據或用于存儲處理過程中產生的數據；以及

至少一ALU模塊，用于從所述多核心處理模塊或所述片上存儲介質獲取輸入數據執行所述多核心處理模塊無法完成的非線性運算；

其中，所述多個核心處理模塊共享所述片上存儲介質以及ALU模塊，或者所述多個核心處理模塊具有獨立的所述片上存儲介質以及ALU模塊。

2.根據權利要求1所述的處理系統，還包括：

至少一片內地址索引模塊，用于執行運算時根據輸入的索引映射至正確的存儲地址。

3.根據權利要求1或2所述的處理系統，其中，所述處理過程中產生的數據包括處理結果或中間結算結果。

4.根據權利要求1至3中任一項所述的處理系統，其中，所述神經網絡根據多核處理模式進行神經網絡劃分，包括：從輸入神經元劃分、輸出神經元劃分和權值連接劃分。

5.根據權利要求4所述的處理系統，其中，

所述神經網絡的處理系統在執行二維或者多維運算時，將輸入特征圖分別發送至所述多個核心處理模塊，所述多個核心處理模塊分別處理一層輸出特征圖；或

所述神經網絡的處理系統在執行二維或者多維運算時，將輸入特征圖分別發送至所述多個核心處理模塊，所述多個核心處理模塊分別處理同一輸出特征圖的不同區域；或

所述神經網絡的處理系統在執行一維運算時，將同一輸入分別發送至所述多個核心處理模塊，所述多個核心處理模塊分別處理不同的輸出神經元，所述多個核心處理模塊均分別完成當前輸出神經元的處理后，所述多核心處理模塊再執行新的輸入的處理。

6.根據權利要求5所述的處理系統，其中，所述多個核心處理模塊均分別完成當前輸出特征圖的處理后，所述多核心處理模塊再執行新的輸出特征圖處理。

7.根據權利要求1所述的處理系統，其中，所述多核心處理模塊的多個核心處理模塊之間為同構設計或異構設計。

8.一種人工神經網絡的處理方法，包括：

片內地址索引模塊根據輸入的索引映射至正確的存儲地址；以及

根據所述存儲地址從片上存儲介質中獲取輸入數據；

將所述輸入數據發送至多核心處理模塊或ALU模塊，多個核心處理模塊共同復用輸入神經元和/或權值；以及

所述多核心處理模塊執行神經網絡運算中的乘加運算，所述ALU模塊根據所述多核心處理模塊的處理結果或者獲取的所述輸入數據執行所述多核心處理模塊無法完成的非線性運算，

其中，在將輸入數據發送至多核心處理模塊的步驟中及在所述多核心處理模塊執行神經網絡運算中的乘加運算的步驟中，將同一輸入神經元和/或權值分別發送至所述多核心處理模塊中的多個核心處理模塊；其中，在將輸入數據發送至多核心處理模塊的步驟中及在所述多核心處理模塊執行神經網絡運算中的乘加運算的步驟中，將同一輸入神經元分別發送至所述多核心處理模塊中的多個核心處理模塊，將不同的輸入權值分配至不同的核心處理模塊，所述多個核心處理模塊分別將所述輸入神經元和輸入權值進行向量內積操作后得到不同的輸出神經元；所述多個核心處理模塊共同處理同一特征圖時，共同復用權值；

將處理過程中產生的數據緩存至所述片上存儲介質。