[發(fā)明專利]矩陣乘運(yùn)算方法、電子設(shè)備及存儲介質(zhì)

在審

• 申請?zhí)枺?/td>: 202011045109.9
• 申請日: 2020-09-28
• 公開（公告）號: CN114282162A
• 公開（公告）日: 2022-04-05
• 發(fā)明（設(shè)計(jì)）人: 不公告發(fā)明人
• 申請（專利權(quán)）人: 中科寒武紀(jì)科技股份有限公司
• 主分類號: G06F17/16
• 分類號: G06F17/16;G06F9/30
• 代理公司: 中科專利商標(biāo)代理有限責(zé)任公司 11021
• 代理人: 周天宇

一種矩陣乘運(yùn)算方法、裝置、芯片、電子設(shè)備及存儲介質(zhì)，應(yīng)用于數(shù)據(jù)處理技術(shù)領(lǐng)域，包括：獲取待進(jìn)行矩陣乘運(yùn)算的數(shù)據(jù)中的非常規(guī)數(shù)據(jù)類型的數(shù)據(jù)；將所述非常規(guī)數(shù)據(jù)類型的數(shù)據(jù)轉(zhuǎn)化為常規(guī)數(shù)據(jù)類型的數(shù)據(jù)；將所述常規(guī)數(shù)據(jù)類型的數(shù)據(jù)代替所述非常規(guī)數(shù)據(jù)類型的數(shù)據(jù)進(jìn)行矩陣乘運(yùn)算。可支持例如int15、int31和int63等非常規(guī)數(shù)據(jù)類型的計(jì)算。

技術(shù)領(lǐng)域

本公開涉及數(shù)據(jù)處理技術(shù)領(lǐng)域，尤其涉及一種矩陣乘運(yùn)算方法、電子設(shè)備及存儲介質(zhì)。

背景技術(shù)

當(dāng)前，為了提高芯片的計(jì)算性能，將輸入數(shù)據(jù)由浮點(diǎn)數(shù)轉(zhuǎn)為定點(diǎn)數(shù)，為了提高芯片訓(xùn)練時(shí)的精度，將定點(diǎn)數(shù)位寬提升。而在某些芯片中，由于不支持例如int32這種常規(guī)數(shù)據(jù)類型相關(guān)的計(jì)算，故采用int24、int31這種非常規(guī)數(shù)據(jù)類型進(jìn)行相關(guān)計(jì)算。但是，目前矩陣乘算子還不支持int31等這種非常規(guī)數(shù)據(jù)類型的計(jì)算操作。

發(fā)明內(nèi)容

基于此，有必要針對上述技術(shù)問題，提供一種矩陣乘運(yùn)算方法、電子設(shè)備及存儲介質(zhì)。

本公開實(shí)施例第一方面提供一種矩陣乘運(yùn)算方法，包括：

獲取待進(jìn)行矩陣乘運(yùn)算的數(shù)據(jù)，其中，所述數(shù)據(jù)中包括非常規(guī)數(shù)據(jù)類型的數(shù)據(jù)；

將所述非常規(guī)數(shù)據(jù)類型的數(shù)據(jù)轉(zhuǎn)化為常規(guī)數(shù)據(jù)類型的數(shù)據(jù)；

將所述常規(guī)數(shù)據(jù)類型的數(shù)據(jù)代替所述非常規(guī)數(shù)據(jù)類型的數(shù)據(jù)進(jìn)行矩陣乘運(yùn)算。

在一種可能的實(shí)現(xiàn)方式中，所述非常規(guī)數(shù)據(jù)類型的數(shù)據(jù)可轉(zhuǎn)化為兩個(gè)常規(guī)數(shù)據(jù)類型數(shù)據(jù)的運(yùn)算。

在一種可能的實(shí)現(xiàn)方式中，所述非常規(guī)數(shù)據(jù)類型的數(shù)據(jù)為包括符號位和數(shù)據(jù)位的整數(shù)，所述非常規(guī)數(shù)據(jù)類型的數(shù)據(jù)的數(shù)據(jù)位為n+m位，所述將所述非常規(guī)數(shù)據(jù)類型的數(shù)據(jù)轉(zhuǎn)化為常規(guī)數(shù)據(jù)類型的數(shù)據(jù)包括：

將所述非常規(guī)數(shù)據(jù)類型的數(shù)據(jù)拆分為一個(gè)帶有所述符號位和n位數(shù)據(jù)位的常規(guī)數(shù)據(jù)類型的數(shù)據(jù)與一個(gè)帶有所述符號位和m位數(shù)據(jù)位的常規(guī)數(shù)據(jù)類型的數(shù)據(jù)的運(yùn)算。

在一種可能的實(shí)現(xiàn)方式中，所述n位數(shù)據(jù)位的常規(guī)數(shù)據(jù)類型的數(shù)據(jù)的n位數(shù)據(jù)是所述非常規(guī)數(shù)據(jù)類型的數(shù)據(jù)的高n位數(shù)據(jù)，所述m位數(shù)據(jù)位的常規(guī)數(shù)據(jù)類型的數(shù)據(jù)的m位數(shù)據(jù)是所述非常規(guī)數(shù)據(jù)類型的數(shù)據(jù)的低m位數(shù)據(jù)。

在一種可能的實(shí)現(xiàn)方式中，所述非常規(guī)數(shù)據(jù)類型的數(shù)據(jù)為I，帶有所述符號位和n位數(shù)據(jù)位的常規(guī)數(shù)據(jù)類型的數(shù)據(jù)為Ih，帶有所述符號位和m位數(shù)據(jù)位的常規(guī)數(shù)據(jù)類型的數(shù)據(jù)為Il，則：

I＝Ih*2^m+Il。

在一種可能的實(shí)現(xiàn)方式中，在所述矩陣乘運(yùn)算中，至少一個(gè)矩陣中的數(shù)據(jù)的數(shù)據(jù)類型為非常規(guī)數(shù)據(jù)類型。

在一種可能的實(shí)現(xiàn)方式中，當(dāng)一個(gè)矩陣中的數(shù)據(jù)的數(shù)據(jù)類型為非常規(guī)數(shù)據(jù)類型時(shí)，所述將所述常規(guī)數(shù)據(jù)類型的數(shù)據(jù)代替所述非常規(guī)數(shù)據(jù)類型的數(shù)據(jù)進(jìn)行矩陣乘運(yùn)算包括：

將所述矩陣中非常規(guī)數(shù)據(jù)類型的數(shù)據(jù)轉(zhuǎn)化為兩個(gè)常規(guī)數(shù)據(jù)類型的數(shù)據(jù)的運(yùn)算，替代所述非常規(guī)數(shù)據(jù)類型的數(shù)據(jù)進(jìn)行矩陣乘運(yùn)算。

在一種可能的實(shí)現(xiàn)方式中，當(dāng)兩個(gè)矩陣中的數(shù)據(jù)的數(shù)據(jù)類型均為非常規(guī)數(shù)據(jù)類型時(shí)，所述將所述常規(guī)數(shù)據(jù)類型的數(shù)據(jù)代替所述非常規(guī)數(shù)據(jù)類型的數(shù)據(jù)進(jìn)行矩陣乘運(yùn)算包括：

將所述兩個(gè)矩陣中非常規(guī)數(shù)據(jù)類型的數(shù)據(jù)分別轉(zhuǎn)化為兩個(gè)常規(guī)數(shù)據(jù)類型的數(shù)據(jù)的運(yùn)算，替代對應(yīng)的非常規(guī)數(shù)據(jù)類型的數(shù)據(jù)進(jìn)行矩陣乘運(yùn)算。

在一種可能的實(shí)現(xiàn)方式中，所述常規(guī)數(shù)據(jù)類型包括int8、int16、int32、int64；

所述非常規(guī)數(shù)據(jù)類型包括int15、int23、int31、int39、int47、int63、int71、int79、int97或int127。

本公開實(shí)施例第二方面提供了一種電子設(shè)備，包括：