[發明專利]三維堆疊神經網絡加速器的產出改進

有效

• 申請號: 201880038452.5
• 申請日: 2018-08-22
• 公開（公告）號: CN110730955B
• 公開（公告）日: 2023-10-10
• 發明（設計）人: A.G.諾瓦齊克;O.特馬姆
• 申請（專利權）人: 谷歌有限責任公司
• 主分類號: G06F11/14
• 分類號: G06F11/14;G06F11/20;G06N3/04;G06N3/063
• 代理公司: 北京市柳沈律師事務所 11105
• 代理人: 金玉潔

1.一種電路，包括：

垂直堆疊在彼此之上的多個管芯，

每個管芯包括多個組塊，

所述多個組塊中的每個組塊包括復用器，

其中，每個組塊的復用器被連接到所述多個組塊中的多個其它組塊的輸出，并且控制所述組塊接收哪個輸出作為輸入來定義數據流配置；

其中，所述多個組塊包括已經被確定為故障組塊的第一組塊；以及

其中，所述數據流配置被配置為將初始數據流配置中在故障組塊之前的組塊的輸出路由到與故障組塊垂直相鄰的組塊的輸入，而不是路由到故障組塊的輸入。

2.如權利要求1所述的電路，還包括在不同管芯上的組塊之間的感應耦合，這使得能夠在不同管芯上的組塊之間進行通信。

3.如權利要求1或權利要求2所述的電路，對于每個復用器，還包括耦合到所述復用器的相應的控制器，其中，所述控制器被配置為向所述復用器發送指令，以便為所述復用器指定活躍的輸入。

4.如前述權利要求中的任何一個所述的電路，對于每個晶片，還包括耦合到包括在晶片上的每個復用器的相應的控制器，其中，所述控制器被配置為向包括在晶片上的每個復用器發送指令，以便為每個復用器指定活躍的輸入。

5.如前述權利要求中的任何一個所述的電路，還包括耦合到每個復用器的控制器，其中，所述控制器被配置為向每個復用器發送指令，以便為每個復用器指定活躍的輸入。

6.如前述權利要求中的任何一個所述的電路，其中，為了進一步定義數據流配置以便將初始數據流配置中在故障組塊之前的組塊的輸出路由到與故障組塊垂直相鄰的組塊的輸入，與故障組塊垂直相鄰的組塊的復用器的輸入被設置為接收在故障組塊之前的組塊的輸出。

7.如前述權利要求中的任何一個所述的電路，其中，所述故障組塊已經被禁用。

8.如權利要求7所述的電路，其中，禁用故障組塊包括移除分配給故障組塊的電力。

9.如權利要求7或權利要求8所述的電路，其中，禁用故障組塊包括關閉故障組塊所獨有的時鐘。

10.如前述權利要求中的任何一個所述的電路，其中，每個組塊與一個或多個相鄰組塊進行通信以創建組塊的環形網絡，其中，所述環形網絡被配置為使得所述環形網絡中的每個功能組塊接收并傳送數據。

11.一種方法，包括：

獲取指定來自三維堆疊神經網絡加速器中的多個組塊中的組塊為故障組塊的數據，其中：

三維堆疊神經網絡加速器包括堆疊在彼此之上的多個神經網絡管芯，每個神經網絡管芯包括各自的多個組塊，

每個組塊具有將數據路由進入組塊和離開組塊的輸入連接和輸出連接，并且

三維堆疊神經網絡加速器被配置為通過根據數據流配置將輸入路由通過所述多個組塊的每個組塊來處理輸入；以及

修改數據流配置，以便將數據流配置中在故障組塊之前的組塊的輸出路由到位于與故障組塊不同的神經網絡管芯上的、故障組塊之上或之下的組塊的輸入連接。

12.如權利要求11所述的方法，其中，所述神經網絡加速器還包括用于所述多個組塊中的每個組塊的相應的復用器，其控制在組塊之間的數據的路由，并且其中，修改數據流配置包括為位于與故障組塊不同的神經網絡模塊上的、故障組塊之上或之下的組塊配置復用器，以使得在故障組塊之前的組塊的輸出被路由到在故障組塊之上或之下的組塊的輸入連接。

13.如權利要求11或權利要求12所述的方法，還包括禁用故障組塊。

14.如權利要求13所述的方法，其中，禁用故障組塊包括移除分配給故障組塊的電力。