[發(fā)明專利]用于脈動(dòng)陣列上的塊稀疏操作的架構(gòu)在審
| 申請(qǐng)?zhí)枺?/td> | 202110214543.3 | 申請(qǐng)日： | 2020-03-14 |
| 公開（公告）號(hào)： | CN112905240A | 公開（公告）日： | 2021-06-04 |
| 發(fā)明（設(shè)計(jì)）人： | A·阿普;S·馬余蘭;M·麥克弗森;付方文;J·陳;V·喬治;V·蘭加納坦;A·加格;J·雷 | 申請(qǐng)（專利權(quán)）人： | 英特爾公司 |
| 主分類號(hào)： | G06F9/38 | 分類號(hào)： | G06F9/38;G06F15/80;G06N3/04;G06N3/063;G06N3/08 |
| 代理公司： | 上海專利商標(biāo)事務(wù)所有限公司 31100 | 代理人： | 陳依心;黃嵩泉 |
| 地址： | 美國加利*** | 國省代碼： | 暫無信息 |
| 權(quán)利要求書： | 查看更多 | 說明書： | 查看更多 |
| 摘要： | |||
| 搜索關(guān)鍵詞： | 用于 脈動(dòng) 陣列 稀疏 操作 架構(gòu) | ||
1.一種通用圖形處理器，包括：
計(jì)算集群，包括與高速緩存存儲(chǔ)器耦合的多個(gè)處理資源，至少一個(gè)處理資源包括矩陣加速器，所述矩陣加速器配置為響應(yīng)于稀疏點(diǎn)積指令而對(duì)第一稀疏矩陣和第二矩陣的多個(gè)元素執(zhí)行點(diǎn)積操作，其中，所述第一稀疏矩陣的元素被緊縮為包括元素集合的壓縮表示，所述元素集合包括至少一個(gè)非零值元素和對(duì)所述至少一個(gè)非零值元素的指示；
其中，所述壓縮表示要以壓縮格式被存儲(chǔ)至所述高速緩存存儲(chǔ)器；以及
其中，所述至少一個(gè)處理資源配置為：
將所述壓縮表示從所述高速緩存存儲(chǔ)器加載到所述至少一個(gè)處理資源內(nèi)的存儲(chǔ)器中；
將所述第二矩陣從所述高速緩存存儲(chǔ)器加載到所述至少一個(gè)處理資源內(nèi)的所述存儲(chǔ)器中；
對(duì)來自所述壓縮表示的元素和所述第二矩陣的所選元素執(zhí)行所述點(diǎn)積操作，其中，所述第二矩陣的所述所選元素對(duì)應(yīng)于所述第一稀疏矩陣的存儲(chǔ)在所述壓縮表示內(nèi)的非零值并且基于所述對(duì)所述至少一個(gè)非零值的指示而被選擇；以及
將所述點(diǎn)積操作的輸出寫入所述至少一個(gè)處理資源內(nèi)的所述存儲(chǔ)器。
2.如權(quán)利要求1所述的通用圖形處理器，其中，所述高速緩存存儲(chǔ)器是第二級(jí)L2高速緩存存儲(chǔ)器。
3.如權(quán)利要求1所述的通用圖形處理器，其中，所述至少一個(gè)處理資源內(nèi)的所述存儲(chǔ)器包括第一級(jí)L1高速緩存存儲(chǔ)器。
4.如權(quán)利要求1所述的通用圖形處理器，其中，所述至少一個(gè)處理資源內(nèi)的所述存儲(chǔ)器包括共享存儲(chǔ)器。
5.如權(quán)利要求1所述的通用圖形處理器，其中，所述至少一個(gè)處理資源內(nèi)的所述存儲(chǔ)器包括寄存器堆。
6.如權(quán)利要求1所述的通用圖形處理器，其中，所述至少一個(gè)處理資源內(nèi)的所述存儲(chǔ)器包括所述矩陣加速器內(nèi)的存儲(chǔ)器。
7.如權(quán)利要求1所述的通用圖形處理器，其中，所述第一稀疏矩陣包括與神經(jīng)網(wǎng)絡(luò)相關(guān)聯(lián)的權(quán)重?cái)?shù)據(jù)。
8.如權(quán)利要求7所述的通用圖形處理器，其中，所述第二矩陣包括與所述神經(jīng)網(wǎng)絡(luò)相關(guān)聯(lián)的輸入激活數(shù)據(jù)。
9.如權(quán)利要求8所述的通用圖形處理器，其中，所述點(diǎn)積操作的所述輸出包括與所述神經(jīng)網(wǎng)絡(luò)相關(guān)聯(lián)的輸出激活數(shù)據(jù)。
10.如權(quán)利要求9所述的通用圖形處理器，其中，所述點(diǎn)積操作的所述輸出是密集矩陣。
11.如權(quán)利要求1所述的通用圖形處理器，其中，所述矩陣加速器包括處理元件的脈動(dòng)陣列。
12.如權(quán)利要求1所述的通用圖形處理器，其中，所述第一稀疏矩陣具有結(jié)構(gòu)化稀疏度。
13.如權(quán)利要求12所述的通用圖形處理器，其中，所述第一稀疏矩陣的元素基于所述結(jié)構(gòu)化稀疏度被緊縮為壓縮表示。
14.如權(quán)利要求1所述的通用圖形處理器，其中，所述點(diǎn)積操作是8位整數(shù)點(diǎn)積操作。
15.如權(quán)利要求14所述的通用圖形處理器，其中，所述第一稀疏矩陣包括8位整數(shù)元素。
16.一種數(shù)據(jù)處理系統(tǒng)，包括：
存儲(chǔ)器設(shè)備；以及
如權(quán)利要求1至15中任一項(xiàng)所述的通用圖形處理器。
該專利技術(shù)資料僅供研究查看技術(shù)是否侵權(quán)等信息，商用須獲得專利權(quán)人授權(quán)。該專利全部權(quán)利屬于英特爾公司，未經(jīng)英特爾公司許可，擅自商用是侵權(quán)行為。如果您想購買此專利、獲得商業(yè)授權(quán)和技術(shù)合作，請(qǐng)聯(lián)系【客服】
本文鏈接：http://www.szxzyx.cn/pat/books/202110214543.3/1.html，轉(zhuǎn)載請(qǐng)聲明來源鉆瓜專利網(wǎng)。
