[發明專利]神經網絡處理器

在審

• 申請號: 201980092225.5
• 申請日: 2019-12-20
• 公開（公告）號: CN113424201A
• 公開（公告）日: 2021-09-21
• 發明（設計）人: K.H.李;S.拉維庫馬爾;P.唐內利;D.羅森班德
• 申請（專利權）人: 偉摩有限責任公司
• 主分類號: G06N3/063
• 分類號: G06N3/063;G06N3/04
• 代理公司: 北京市柳沈律師事務所 11105
• 代理人: 金玉潔

1.一種用于對包括多個神經網絡層的神經網絡執行計算的電路，所述電路包括：

處理設備，被配置為處理數據信號并提供用于執行所述計算的編程數據；以及

核心，與所述處理設備進行數據通信，以接收由所述處理設備提供的所述編程數據，其中所述核心包括：

激活存儲器，被配置為存儲層輸入集；

參數存儲器，被配置為存儲用于第一神經網絡層的參數；

旋轉單元，被配置為基于所述編程數據，旋轉訪問來自所述激活存儲器的所述層輸入集；

計算單元，具有多個計算單元格，所述多個計算單元格中的至少一個計算單元格被配置為：

i)接收用于所述第一神經網絡層的、由所述旋轉單元訪問的所述層輸入集的輸入，

ii)接收用于所述第一神經網絡層的參數，以及

iii)使用所述輸入和所述參數生成所述第一神經網絡層的輸出的至少一部分；以及

交叉開關單元，被配置為根據基于所述編程數據和分配給第二神經網絡層的屬性值的庫分配模式，使所述第一神經網絡層的所述輸出被存儲在所述激活存儲器中。

2.根據權利要求1所述的電路，其中，所述旋轉單元還被配置為旋轉輸入張量的元素，其中所述輸入張量的每個元素對應于存儲在所述激活存儲器中的輸入集的相應的輸入。

3.根據權利要求2所述的電路，其中，所述旋轉單元還被配置為：

基于第一旋轉因子沿所述輸入張量的第一維度旋轉所述輸入張量的元素；

基于不同于所述第一旋轉因子的第二旋轉因子，沿所述輸入張量的不同的第二維度旋轉所述輸入張量的元素；以及

向所述計算單元的計算單元格提供與旋轉的所述輸入張量的元素相對應的輸入。

4.根據權利要求1所述的電路，其中，所述交叉開關單元還被配置為：

響應于處理所述庫分配模式，確定所述輸出中的激活的映射，其中所述映射基于分配給所述第二神經網絡層的所述屬性值，標識用于存儲用于所述第二神經網絡層的所述激活的所述激活存儲器的存儲器庫。

5.根據權利要求4所述的電路，其中，所述交叉開關單元還被配置為：

使得用于所述第一神經網絡層的所述輸出的數據被存儲在所述激活存儲器的特定地址位置處，用于所述輸出的所述數據基于針對所述神經網絡的不同相應層改變的可配置映射被分配到所述激活存儲器的地址位置。

6.根據權利要求4所述的電路，其中：

所述旋轉單元還被配置為訪問用于所述第一神經網絡層的所述輸出的輸出數據，作為到所述第二神經網絡層的層輸入，用于在所述第二神經網絡層處進行處理；以及

所確定的映射被配置使得當所述旋轉單元訪問對應于所述第一神經網絡層的所述輸出的、用于所述第二神經網絡層的層輸入時，在所述激活存儲器的所述存儲器庫處不發生庫沖突。

7.根據權利要求1所述的電路，其中，分配給所述第二神經網絡層的所述屬性值為：

用于所述第二神經網絡層的步幅值，或者

用于所述第二神經網絡層的跳過值。

8.根據權利要求1所述的電路，其中，所述核心被配置為：

使用所述旋轉單元訪問存儲在所述激活存儲器的第一組存儲器庫中的層輸入，而不發生庫沖突；以及

使用所述交叉開關單元將層輸出存儲在所述激活存儲器的第二組存儲器庫中，而不發生庫沖突。

9.根據權利要求7所述的電路，其中，所述核心被配置為：

將所述旋轉單元的基于旋轉的數據訪問操作與所述交叉開關單元的基于模式的數據存儲操作進行同步，以實現所述計算單元的利用率超過閾值利用率。

10.根據權利要求1所述的電路，其中，所述處理設備被配置為：

從外部控制器接收包括要在所述核心處使用的數據值的指令；以及

至少向所述核心提供所述指令的所述數據值，用于存儲在所述核心的組件處。