[發(fā)明專利]用于矩陣處理的芯片、矩陣處理方法、裝置及存儲(chǔ)介質(zhì)

有效

• 申請?zhí)枺?/td>: 201910203485.7
• 申請日: 2019-03-18
• 公開（公告）號: CN110147347B
• 公開（公告）日: 2023-01-06
• 發(fā)明（設(shè)計(jì)）人: 于瀟宇;王玉偉;章恒;高劍林
• 申請（專利權(quán)）人: 騰訊科技（深圳）有限公司
• 主分類號: G06F15/80
• 分類號: G06F15/80
• 代理公司: 北京三高永信知識產(chǎn)權(quán)代理有限責(zé)任公司 11138
• 代理人: 張所明

1.一種用于矩陣處理的芯片，其特征在于，所述芯片包括：數(shù)據(jù)通道、控制通道、處理元件PE接口、PE群組陣列；

所述數(shù)據(jù)通道用于讀取待計(jì)算的被乘數(shù)矩陣和乘數(shù)矩陣；

所述控制通道用于對所述PE群組陣列的計(jì)算進(jìn)行控制；

所述PE接口用于從所述數(shù)據(jù)通道中讀取被乘數(shù)矩陣和乘數(shù)矩陣；

所述PE群組陣列包括多個(gè)PE群組，多個(gè)PE群組間復(fù)用同一乘數(shù)矩陣，每個(gè)PE群組包括多個(gè)PE，同一PE群組的每個(gè)PE內(nèi)存儲(chǔ)有被乘數(shù)矩陣的相同行向量及乘數(shù)矩陣的不同列向量，每個(gè)PE用于將被乘數(shù)矩陣的一行向量與乘數(shù)矩陣中的每列向量相乘，所述PE群組陣列用于實(shí)現(xiàn)被乘數(shù)矩陣與乘數(shù)矩陣之間的乘法計(jì)算；

其中，每個(gè)PE群組包括第一控制器，所述第一控制器用于根據(jù)PE動(dòng)態(tài)配置信息所選擇出的參與計(jì)算的所述PE群組及對乘數(shù)矩陣和被乘數(shù)矩陣的分塊情況，確定出對參與計(jì)算的所述PE群組的控制參數(shù)，所述PE群組的控制參數(shù)用于確定出PE群組內(nèi)參與計(jì)算的PE，并對所述PE的計(jì)算進(jìn)行控制；

每個(gè)所述PE包括第二控制器、多個(gè)乘累加器MAC、第二結(jié)果緩存器、多個(gè)乘數(shù)矩陣存儲(chǔ)單元以及被乘數(shù)矩陣向量存儲(chǔ)單元；所述第二控制器用于根據(jù)所述第一控制器所確定的所述參與計(jì)算的PE，配置所述PE的控制參數(shù)，所述PE的控制參數(shù)用于確定所述PE內(nèi)參與計(jì)算的MAC，并對每個(gè)所述MAC的計(jì)算進(jìn)行控制；每個(gè)所述MAC用于將被乘數(shù)矩陣的一行向量與乘數(shù)矩陣的一列向量相乘，多個(gè)MAC構(gòu)成多組MAC，多組MAC共享一個(gè)所述乘數(shù)矩陣存儲(chǔ)單元；所述第二結(jié)果緩存器用于緩存每個(gè)MAC的計(jì)算結(jié)果；每個(gè)乘數(shù)矩陣存儲(chǔ)單元用于存儲(chǔ)乘數(shù)矩陣中至少一列向量；所述被乘數(shù)矩陣向量存儲(chǔ)單元包括ping地址和pong地址，所述ping地址和pong地址用于存儲(chǔ)被乘數(shù)矩陣的至少一行向量。

2.根據(jù)權(quán)利要求1所述的芯片，其特征在于，所述數(shù)據(jù)通道采用多存儲(chǔ)器位寬擴(kuò)展方式，按行讀取所述乘數(shù)矩陣，并通過所述PE接口將所讀取的乘數(shù)矩陣按列分發(fā)至每個(gè)PE群組的每個(gè)PE中。

3.根據(jù)權(quán)利要求1所述的芯片，其特征在于，每個(gè)PE群組還包括第一結(jié)果緩存器及累加器；

所述第一結(jié)果緩存器用于緩存PE群組內(nèi)多個(gè)PE的計(jì)算結(jié)果；

所述累加器用于對所述第一結(jié)果緩存器中多個(gè)PE的計(jì)算結(jié)果進(jìn)行累加。

4.一種矩陣處理方法，其特征在于，所述矩陣處理方法應(yīng)用于權(quán)利要求1至3中任一項(xiàng)所述的用于矩陣處理的芯片，所述方法包括：

讀取乘數(shù)矩陣，并將所述乘數(shù)矩陣存儲(chǔ)到每個(gè)PE群組的每個(gè)PE中；

讀取被乘數(shù)矩陣，并將所述被乘數(shù)矩陣的不同行向量分別存儲(chǔ)到不同PE群組的每個(gè)PE內(nèi)；

在同一PE群組內(nèi)，將所述被乘數(shù)矩陣的行向量與所述乘數(shù)矩陣的不同列向量相乘，得到所述PE群組內(nèi)的相乘結(jié)果；

根據(jù)不同PE群組內(nèi)的相乘結(jié)果，確定所述被乘數(shù)矩陣與所述乘數(shù)矩陣的結(jié)果矩陣；

其中，每個(gè)PE群組包括第一控制器，所述第一控制器用于根據(jù)PE動(dòng)態(tài)配置信息所選擇出的參與計(jì)算的所述PE群組及對所述乘數(shù)矩陣和所述被乘數(shù)矩陣的分塊情況，確定出對參與計(jì)算的所述PE群組的控制參數(shù)，所述PE群組的控制參數(shù)用于確定出PE群組內(nèi)參與計(jì)算的PE，并對所述PE的計(jì)算進(jìn)行控制；

每個(gè)所述PE包括第二控制器、多個(gè)乘累加器MAC、第二結(jié)果緩存器、多個(gè)乘數(shù)矩陣存儲(chǔ)單元以及被乘數(shù)矩陣向量存儲(chǔ)單元；所述第二控制器用于根據(jù)所述第一控制器所確定的所述參與計(jì)算的PE，配置所述PE的控制參數(shù)，所述PE的控制參數(shù)用于確定所述PE內(nèi)參與計(jì)算的MAC，并對每個(gè)所述MAC的計(jì)算進(jìn)行控制；每個(gè)所述MAC用于將被乘數(shù)矩陣的一行向量與乘數(shù)矩陣的一列向量相乘，多個(gè)MAC構(gòu)成多組MAC，多組MAC共享一個(gè)所述乘數(shù)矩陣存儲(chǔ)單元；所述第二結(jié)果緩存器用于緩存每個(gè)MAC的計(jì)算結(jié)果；每個(gè)乘數(shù)矩陣存儲(chǔ)單元用于存儲(chǔ)乘數(shù)矩陣中至少一列向量；所述被乘數(shù)矩陣向量存儲(chǔ)單元包括ping地址和pong地址，所述ping地址和pong地址用于存儲(chǔ)被乘數(shù)矩陣的至少一行向量。

5.根據(jù)權(quán)利要求4所述的方法，其特征在于，所述讀取乘數(shù)矩陣，并將所述乘數(shù)矩陣存儲(chǔ)到每個(gè)PE群組的每個(gè)PE中，包括：

采用多存儲(chǔ)器位寬擴(kuò)展方式，按行讀取所述乘數(shù)矩陣，并將所讀取的乘數(shù)矩陣按列存儲(chǔ)到每個(gè)PE群組的每個(gè)PE中。