[發(fā)明專利]一種稀疏矩陣向量乘訪存優(yōu)化的計(jì)算方法

在審

• 申請(qǐng)?zhí)枺?/td>: 202210066814.X
• 申請(qǐng)日: 2022-01-20
• 公開（公告）號(hào): CN114491402A
• 公開（公告）日: 2022-05-13
• 發(fā)明（設(shè)計(jì)）人: 胡長(zhǎng)軍;儲(chǔ)根深;何遠(yuǎn)杰;丁哲昭;董玲玉;戴潮虎
• 申請(qǐng)（專利權(quán)）人: 北京科技大學(xué)
• 主分類號(hào): G06F17/16
• 分類號(hào): G06F17/16;G06F9/50
• 代理公司: 北京市廣友專利事務(wù)所有限責(zé)任公司 11237
• 代理人: 張仲波;付忠林

1.一種稀疏矩陣向量乘訪存優(yōu)化的計(jì)算方法，適用于DCU和GPU架構(gòu)，其特征在于，所述稀疏矩陣向量乘訪存優(yōu)化的計(jì)算方法包括：

將原始稀疏矩陣按照固定行數(shù)劃分為若干塊，每塊分別由一個(gè)線程塊單獨(dú)完成計(jì)算，并為每個(gè)線程塊在LDS分別開辟固定大小的空間；

計(jì)算每個(gè)線程塊負(fù)責(zé)計(jì)算的非零元素?cái)?shù)量，根據(jù)計(jì)算結(jié)果，結(jié)合預(yù)設(shè)的每個(gè)線程塊每輪至多計(jì)算的非零元素個(gè)數(shù)，計(jì)算出每一線程塊需要計(jì)算的輪次數(shù)；

在一個(gè)輪次的計(jì)算中，每個(gè)線程塊中所有線程完成若干次非零元素與相應(yīng)向量中對(duì)應(yīng)元素乘積的計(jì)算，并將乘法結(jié)果寫入當(dāng)前線程塊所對(duì)應(yīng)的LDS空間；

將每個(gè)線程塊中的所有線程以單個(gè)或多個(gè)線程為一組的形式進(jìn)行劃分，每一組線程分別對(duì)LDS的乘法結(jié)果進(jìn)行求和，并將求和結(jié)果保存在寄存器中；

當(dāng)完成所有輪次的計(jì)算后，基于存儲(chǔ)于寄存器中的求和結(jié)果，得到最終的計(jì)算結(jié)果，并將最終的計(jì)算結(jié)果寫回顯存。

2.如權(quán)利要求1所述的稀疏矩陣向量乘訪存優(yōu)化的計(jì)算方法，其特征在于，所述原始稀疏矩陣使用CSR格式存儲(chǔ)。

3.如權(quán)利要求1所述的稀疏矩陣向量乘訪存優(yōu)化的計(jì)算方法，其特征在于，在將原始稀疏矩陣按照固定行數(shù)劃分為若干塊時(shí)，除最后一塊之外，其余每塊的行數(shù)相等且行數(shù)均為N，最后一塊的行數(shù)小于或等于N。

4.如權(quán)利要求1所述的稀疏矩陣向量乘訪存優(yōu)化的計(jì)算方法，其特征在于，每個(gè)線程塊每輪至多計(jì)算的非零元素個(gè)數(shù)為R×M個(gè)；其中，M為每個(gè)線程塊內(nèi)含有線程的個(gè)數(shù)，R為正整數(shù)；

在單個(gè)計(jì)算輪次中，每個(gè)線程塊內(nèi)每個(gè)線程完成當(dāng)前線程塊負(fù)責(zé)的稀疏矩陣塊中最多R個(gè)非零元素與相應(yīng)向量中對(duì)應(yīng)元素乘積的計(jì)算。

5.如權(quán)利要求1所述的稀疏矩陣向量乘訪存優(yōu)化的計(jì)算方法，其特征在于，在將每個(gè)線程塊中的所有線程以單個(gè)或多個(gè)線程為一組的形式進(jìn)行劃分時(shí)，每組內(nèi)的線程數(shù)量為2的非負(fù)整數(shù)次冪；

并且，每個(gè)線程塊的總組數(shù)大于或等于自身處理的矩陣行數(shù)。