[發(fā)明專利]可變格式、可變稀疏矩陣乘法指令

在審

• 申請(qǐng)?zhí)枺?/td>: 202010944726.6
• 申請(qǐng)日: 2019-05-22
• 公開(kāi)（公告）號(hào): CN112099852A
• 公開(kāi)（公告）日: 2020-12-18
• 發(fā)明（設(shè)計(jì)）人: 馬克·A·安德斯;希曼殊·考爾;薩努·馬修
• 申請(qǐng)（專利權(quán)）人: 英特爾公司
• 主分類號(hào): G06F9/30
• 分類號(hào): G06F9/30;G06F7/523;G06F17/16
• 代理公司: 北京東方億思知識(shí)產(chǎn)權(quán)代理有限責(zé)任公司 11258
• 代理人: 姜飛

1.一種處理器，包括：

用于存儲(chǔ)數(shù)據(jù)的緩存；

被耦合到所述緩存的多個(gè)核，所述多個(gè)核中的核包括：

執(zhí)行模塊，用于執(zhí)行至少一個(gè)指令，以根據(jù)所選擇的操作模式執(zhí)行針對(duì)第一源矩陣和第二源矩陣的乘法累加操作來(lái)生成結(jié)果矩陣，所述所選擇的操作模式包括第一操作模式和第二操作模式，在所述第一操作模式中，至少所述第一源矩陣是具有位于特定位置處的非零數(shù)據(jù)元素的稀疏矩陣，在所述第二操作模式中，所述第一源矩陣和所述第二源矩陣都是密集矩陣，

其中，當(dāng)處于所述第一操作模式中時(shí)，所述第一源矩陣將以壓縮格式被存儲(chǔ)，所述壓縮格式標(biāo)識(shí)所述非零數(shù)據(jù)元素的位置，所述執(zhí)行模塊還包括：

多個(gè)乘法累加模塊，用于將所述第一源矩陣的所述非零數(shù)據(jù)元素與所述第二源矩陣中基于所述壓縮格式中的所述位置標(biāo)識(shí)出的對(duì)應(yīng)數(shù)據(jù)元素相乘，以生成多個(gè)乘積，并將所述多個(gè)乘積與累加值相加來(lái)生成所述結(jié)果矩陣。

2.根據(jù)權(quán)利要求1所述的處理器，其中在所述第一源矩陣為稀疏矩陣的情況下，所述第一源矩陣將以壓縮稀疏格式被存儲(chǔ)，所述壓縮稀疏格式包括指示符，所述指示符伴隨每個(gè)矩陣元素并指定所述矩陣元素在所述第一源矩陣內(nèi)的邏輯位置。

3.根據(jù)權(quán)利要求1所述的處理器，其中稀疏矩陣包括所具有的非零數(shù)據(jù)元素的比例小于或等于閾值的矩陣。

4.根據(jù)權(quán)利要求3所述的處理器，其中所述閾值包括值1。

5.根據(jù)權(quán)利要求1所述的處理器，其中所述指令用于指示所述所選擇的操作模式。

6.根據(jù)權(quán)利要求5所述的處理器，其中所述指令包括用于指示所述第一操作模式的稀疏矩陣乘法指令或者用于指示所述第二操作模式的密集矩陣乘法指令。

7.根據(jù)權(quán)利要求1至6中任一項(xiàng)所述的處理器，其中當(dāng)處于所述第二操作模式中時(shí)，所述多個(gè)乘法累加模塊用于將所述第一源矩陣的包括任何零數(shù)據(jù)元素在內(nèi)的數(shù)據(jù)元素與所述第二源矩陣的數(shù)據(jù)元素相乘。

8.根據(jù)權(quán)利要求1至6中任一項(xiàng)所述的處理器，其中所述執(zhí)行模塊可操作用于結(jié)合多個(gè)不同的數(shù)據(jù)類型來(lái)執(zhí)行所述乘法累加操作，所述多個(gè)不同的數(shù)據(jù)類型用于對(duì)所述第一源矩陣、所述第二源矩陣和所述結(jié)果矩陣的數(shù)據(jù)元素進(jìn)行編碼。

9.根據(jù)權(quán)利要求8所述的處理器，其中所述數(shù)據(jù)類型包括以下項(xiàng)中的一項(xiàng)或多項(xiàng)：16位浮點(diǎn)、32位浮點(diǎn)、8位整數(shù)和16位整數(shù)。

10.根據(jù)權(quán)利要求7所述的處理器，其中所述指令包括多個(gè)字段，包括第一字段、第二字段、第三字段和第四字段，所述第一字段用于指定指示第一操作模式或第二操作模式的操作碼，所述第二字段用于標(biāo)識(shí)所述結(jié)果矩陣，所述第三字段用于標(biāo)識(shí)所述第一源矩陣，所述第四字段用于標(biāo)識(shí)所述第二源矩陣。

11.根據(jù)權(quán)利要求1-6、9和10中的任一項(xiàng)所述的處理器，其中所述第一源矩陣和所述第二源矩陣包括用于機(jī)器學(xué)習(xí)應(yīng)用的輸入值。

12.一種方法，包括：

將數(shù)據(jù)存儲(chǔ)在緩存中；

由被耦合到所述緩存的多個(gè)核中的核、根據(jù)所選擇的操作模式執(zhí)行針對(duì)第一源矩陣和第二源矩陣的乘法累加操作來(lái)生成結(jié)果矩陣，所述所選擇的操作模式包括第一操作模式和第二操作模式，在所述第一操作模式中，至少所述第一源矩陣是具有位于特定位置處的非零數(shù)據(jù)元素的稀疏矩陣，在所述第二操作模式中，所述第一源矩陣和所述第二源矩陣都是密集矩陣，

其中，當(dāng)處于所述第一操作模式中時(shí)，所述第一源矩陣將以壓縮格式被存儲(chǔ)，所述壓縮格式標(biāo)識(shí)所述非零數(shù)據(jù)元素的位置，乘法累加操作還包括：

將所述第一源矩陣的所述非零數(shù)據(jù)元素與所述第二源矩陣中基于所述壓縮格式中的所述位置標(biāo)識(shí)出的對(duì)應(yīng)數(shù)據(jù)元素相乘，以生成多個(gè)乘積，并且

將所述多個(gè)乘積與累加值相加來(lái)生成所述結(jié)果矩陣。