[發(fā)明專利]支持同時處理多個矩陣的高吞吐量矩陣處理器

在審

• 申請?zhí)枺?/td>: 202011182408.7
• 申請日: 2020-10-29
• 公開（公告）號: CN112748956A
• 公開（公告）日: 2021-05-04
• 發(fā)明（設(shè)計）人: 克里希納庫馬爾·納拉亞南·奈爾;奧利維亞·吳;伊赫桑·基什·阿德斯坦尼·扎德;阿卜杜勒卡迪爾·烏特庫·迪里爾;托馬斯·馬克·烏爾里希;郝宇辰;拉凱什·科姆拉韋利;阿拉溫德·卡萊阿
• 申請（專利權(quán)）人: 臉譜公司
• 主分類號: G06F9/30
• 分類號: G06F9/30;G06F15/80;G06N3/04;G06N3/08
• 代理公司: 北京安信方達(dá)知識產(chǎn)權(quán)代理有限公司 11262
• 代理人: 周靖;楊明釗

1.一種系統(tǒng)，包括：

數(shù)據(jù)輸入向量單元，所述數(shù)據(jù)輸入向量單元被配置為同時接收第一數(shù)據(jù)矩陣和第二數(shù)據(jù)矩陣的多個不同行的元素；

權(quán)重輸入向量單元，所述權(quán)重輸入向量單元被配置為：

接收組合權(quán)重向量，其中所述組合權(quán)重向量包括第一權(quán)重矩陣的權(quán)重元素和第二權(quán)重矩陣的權(quán)重元素；

從所述組合權(quán)重向量獲得所述第一權(quán)重矩陣的權(quán)重元素；

從所述組合權(quán)重向量獲得所述第二權(quán)重矩陣的權(quán)重元素；并且

至少部分地同時向第一組一個或更多個計算單元提供所述第一權(quán)重矩陣的所獲得的權(quán)重元素，并且向第二組一個或更多個計算單元提供所述第二權(quán)重矩陣的所獲得的權(quán)重元素；和

矩陣處理器單元的多個計算單元，所述多個計算單元包括所述第一組一個或更多個計算單元和所述第二組一個或更多個計算單元，

其中，所述第一組計算單元中的每個計算單元被配置為將來自所述數(shù)據(jù)輸入向量單元的所述第一數(shù)據(jù)矩陣的所提供的元素與來自所述權(quán)重輸入向量單元的所述第一權(quán)重矩陣的所提供的相應(yīng)元素相乘，并將相應(yīng)計算單元的相乘結(jié)果相加在一起，以至少部分地確定第一卷積結(jié)果矩陣中的相應(yīng)元素，以及

其中所述第二組計算單元中的每個計算單元被配置成將來自所述數(shù)據(jù)輸入向量單元的所述第二數(shù)據(jù)矩陣的所提供的元素與來自所述權(quán)重輸入向量單元的所述第二權(quán)重矩陣的所提供的相應(yīng)元素相乘，并將相應(yīng)計算單元的相乘結(jié)果相加在一起，以至少部分地確定第二卷積結(jié)果矩陣中的相應(yīng)元素。

2.根據(jù)權(quán)利要求1所述的系統(tǒng)，其中所述多個計算單元中的每一個計算單元是不同的向量計算單元。

3.根據(jù)權(quán)利要求2所述的系統(tǒng)，其中每個向量計算單元包括向量乘法單元和向量加法器單元。

4.根據(jù)權(quán)利要求3所述的系統(tǒng)，其中所述向量加法器單元包括加法器樹。

5.根據(jù)權(quán)利要求1所述的系統(tǒng)，其中所述矩陣處理器單元包括一個或更多個向量累加器。

6.根據(jù)權(quán)利要求5所述的系統(tǒng)，其中所述一個或更多個向量累加器中的至少一個被配置成存儲中間結(jié)果的向量，所述中間結(jié)果對應(yīng)于將所述第一權(quán)重矩陣與所述第一數(shù)據(jù)矩陣卷積的部分結(jié)果。

7.根據(jù)權(quán)利要求1所述的系統(tǒng)，其中所述第一權(quán)重矩陣和所述第二權(quán)重矩陣是不同的機(jī)器學(xué)習(xí)權(quán)重矩陣，并且所述第一數(shù)據(jù)矩陣和所述第二數(shù)據(jù)矩陣存儲用于機(jī)器學(xué)習(xí)的數(shù)據(jù)。

8.根據(jù)權(quán)利要求1所述的系統(tǒng)，其中所述第一數(shù)據(jù)矩陣和所述第二數(shù)據(jù)矩陣對應(yīng)于三維機(jī)器學(xué)習(xí)數(shù)據(jù)矩陣的不同通道。

9.根據(jù)權(quán)利要求1所述的系統(tǒng)，其中所述第一權(quán)重矩陣和所述第二權(quán)重矩陣均為3×3矩陣。

10.根據(jù)權(quán)利要求1所述的系統(tǒng)，其中所述權(quán)重輸入向量單元包括用于存儲所述第一權(quán)重矩陣的提取的權(quán)重元素的第一寄存器和用于存儲所述第二權(quán)重矩陣的提取的權(quán)重元素的第二寄存器，并且其中所述第一寄存器和所述第二寄存器不同。

11.根據(jù)權(quán)利要求10所述的系統(tǒng)，其中所述權(quán)重輸入向量單元包括移位電路，所述移位電路被配置為移位所述第一寄存器內(nèi)的每個提取的權(quán)重元素和所述第二寄存器內(nèi)的每個提取的權(quán)重元素。

12.根據(jù)權(quán)利要求1所述的系統(tǒng)，其中所述權(quán)重輸入向量單元還被配置為將所述第一權(quán)重矩陣的所獲得的權(quán)重元素格式化為第一權(quán)重輸入掩碼，并將所述第二權(quán)重矩陣的所獲得的權(quán)重元素格式化為第二權(quán)重輸入掩碼。

13.根據(jù)權(quán)利要求12所述的系統(tǒng)，其中所述第一權(quán)重輸入掩碼存儲在所述權(quán)重輸入向量單元的第一寄存器中，并且所述第二權(quán)重輸入掩碼存儲在所述權(quán)重輸入向量單元的第二寄存器中，并且其中所述第一寄存器和所述第二寄存器不同。