[發明專利]用于實現卷積神經網絡的可配置處理器元件陣列

在審

• 申請號: 202011027064.2
• 申請日: 2020-09-25
• 公開（公告）號: CN113033765A
• 公開（公告）日: 2021-06-25
• 發明（設計）人: 德巴布拉塔·莫哈帕特拉;阿納布·拉哈;高瑟姆·欽雅;劉慧楚;科馬克·布里克;蘭斯·海克
• 申請（專利權）人: 英特爾公司
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/063
• 代理公司: 北京東方億思知識產權代理有限責任公司 11258
• 代理人: 姜飛

1.一種用于實現卷積神經網絡的裝置，該裝置包括：

處理器元件的陣列，該陣列包括行和列，所述行中的各行具有第一數量的處理器元件，所述列中的各列具有第二數量的處理器元件；

配置寄存器，用于存儲多個描述符，所述描述符用于將所述處理器元件的陣列配置為基于與多個張量處理模板中的一個張量處理模板相對應的數據流調度來實現所述卷積神經網絡的層，所述處理器元件中的一些處理器元件將基于所述描述符而被配置為實現所述多個張量處理模板中的所述一個張量處理模板，以對與所述卷積神經網絡的所述層相關聯的輸入激活數據和過濾器數據進行操作，以產生與所述卷積神經網絡的所述層相關聯的輸出激活數據；和

存儲器，用于存儲與所述卷積神經網絡的所述層相關聯的所述輸入激活數據、所述過濾器數據和所述輸出激活數據。

2.如權利要求1所述的裝置，其中，所述層是所述卷積神經網絡的第一層，所述多個描述符是第一多個描述符，所述多個張量處理模板中的所述一個張量處理模板是所述多個張量處理模板中的第一個張量處理模板，并且所述配置寄存器可重新配置為存儲第二多個描述符，該第二多個描述符用于將所述處理器元件的陣列配置為基于與所述多個張量處理模板中的第二個張量處理模板相對應的第二數據流調度來實現所述卷積神經網絡的第二層，所述多個張量處理模板中的所述第二個張量處理模板與所述多個張量處理模板中的所述第一個張量處理模板不同。

3.如權利要求2所述的裝置，其中，所述多個張量處理模板包括矢量—矢量模板、矢量—矩陣模板和矩陣—矩陣模板。

4.如權利要求1所述的裝置，其中，所述處理器元件的陣列中的第一處理器元件包括：

輸入激活寄存器文件，用于存儲要由所述第一處理器元件處理的第一輸入激活數據；

過濾器寄存器文件，用于存儲要由所述第一處理器元件處理的第一過濾器數據；

輸出激活寄存器文件，用于存儲要由所述第一處理器元件基于所述第一輸入激活數據和所述第一過濾器數據產生的第一輸出激活數據；和

有限狀態機，用于控制所述第一處理器元件的操作以實現所述多個張量處理模板中的所述一個張量處理模板。

5.如權利要求4所述的裝置，其中，所述配置寄存器是第一配置寄存器，并且第一處理器元件還包括第二配置寄存器，該第二配置寄存器用于存儲所述描述符中的至少一些描述符，所述第二配置寄存器用于配置所述有限狀態機。

6.如權利要求4所述的裝置，其中，第一處理器元件還包括：

乘法和累加單元，用于對所述第一輸入激活數據和所述第一過濾器數據執行乘法和累加運算；

逐元素計算單元，用于對所述第一輸入激活數據執行逐元素操作；

最大池化單元，用于執行最大池化操作以產生所述第一輸出激活數據；和

控制邏輯，其可由所述有限狀態機配置為控制所述乘法和累加單元、所述逐元素操作單元和所述最大池化單元的操作。

7.如權利要求1至6中任一權利要求所述的裝置，其中，所述第一數量等于所述第二數量。

8.如權利要求1至4中任一權利要求所述的裝置，還包括處理器，該處理器用于執行計算機指令以將所述多個描述符寫入到所述配置寄存器。

9.如權利要求8所述的裝置，其中，所述層是所述卷積神經網絡的第一層，所述多個描述符是第一多個描述符，所述多個張量處理模板中的所述一個張量處理模板是所述多個張量處理模板中的第一個張量處理模板，并且所述處理器用于將第二多個描述符寫入到所述配置寄存器，該第二多個描述符用于將所述處理器元件的陣列配置為基于與所述多個張量處理模板中的第二個張量處理模板相對應的第二數據流調度來實現所述卷積神經網絡的第二層，所述多個張量處理模板中的所述第二個張量處理模板與所述多個張量處理模板中的所述第一個張量處理模板不同。