[發(fā)明專利]一種憶阻存內(nèi)矢量矩陣運(yùn)算器及運(yùn)算方法

有效

• 申請(qǐng)?zhí)枺?/td>: 202010889956.7
• 申請(qǐng)日: 2020-08-28
• 公開（公告）號(hào): CN111988031B
• 公開（公告）日: 2022-05-20
• 發(fā)明（設(shè)計(jì)）人: 李祎;李健聰;繆向水
• 申請(qǐng)（專利權(quán)）人: 華中科技大學(xué)
• 主分類號(hào): G06F17/16
• 分類號(hào): G06F17/16
• 代理公司: 華中科技大學(xué)專利中心 42201
• 代理人: 李智

本發(fā)明公開了一種憶阻存內(nèi)矢量矩陣運(yùn)算器及運(yùn)算方法，包括：輸入拆分單元、十進(jìn)制乘法單元和外部累加單元；其中，十進(jìn)制乘法單元有多個(gè)，且均包括憶阻器陣列；各十進(jìn)制乘法單元并行連接；輸入拆分單元的輸出端分別與各十進(jìn)制乘法單元的輸入端相連，各十進(jìn)制乘法單元的輸出端均與外部累加單元的輸入端相連。通過對(duì)輸入的浮點(diǎn)數(shù)矢量和浮點(diǎn)數(shù)矩陣中的浮點(diǎn)數(shù)按位進(jìn)行拆分，實(shí)現(xiàn)對(duì)浮點(diǎn)數(shù)的高精度映射，可以在沒有精度損失的前提下執(zhí)行浮點(diǎn)數(shù)的矢量?矩陣運(yùn)算，有效的降低憶阻器件非理想效應(yīng)對(duì)計(jì)算結(jié)果的影響，實(shí)現(xiàn)浮點(diǎn)數(shù)的高精度計(jì)算。另外，由于采用十進(jìn)制映射的方式，本發(fā)明所需的器件數(shù)量較少，電路面積開銷也較小。

技術(shù)領(lǐng)域

本發(fā)明屬于模擬電路領(lǐng)域，更具體地，涉及一種憶阻存內(nèi)矢量矩陣運(yùn)算器及運(yùn)算方法。

背景技術(shù)

由于具有高能效、低延時(shí)、低運(yùn)算時(shí)間復(fù)雜度的特點(diǎn)，基于憶阻器的存內(nèi)矢量-矩陣運(yùn)算在數(shù)據(jù)密集型任務(wù)中已經(jīng)取得了廣泛的應(yīng)用，基于憶阻器陣列構(gòu)筑的神經(jīng)網(wǎng)絡(luò)已經(jīng)展示了存內(nèi)計(jì)算方式相比其傳統(tǒng)數(shù)值計(jì)算機(jī)在能效上的巨大優(yōu)勢(shì)。然而，同樣作為一種數(shù)據(jù)密集型任務(wù)，基于憶阻器的存算一體化技術(shù)在執(zhí)行數(shù)值計(jì)算加速時(shí)，面臨著不小的挑戰(zhàn)，由于憶阻器陣列執(zhí)行的矢量-矩陣運(yùn)算是一種模擬式運(yùn)算方式，受到憶阻器件非理想效應(yīng)和陣列非理想效應(yīng)的影響，基于單一憶阻陣列的矢量-矩陣運(yùn)算只能提供低精度運(yùn)算結(jié)果，無法滿足數(shù)值計(jì)算任務(wù)的苛刻需求。

現(xiàn)有的高精度存內(nèi)矢量-矩陣運(yùn)算單元采用二進(jìn)制浮點(diǎn)格式進(jìn)行運(yùn)算，以浮點(diǎn)數(shù)0.5為例，由于可以將其進(jìn)一步表示為1/2，故實(shí)現(xiàn)其二進(jìn)制精確表示，但是像0.3的這種類型的浮點(diǎn)數(shù)，由于無法表示成2的冪次或者2的冪次的組合，無法用二進(jìn)制精確表示；故采用二進(jìn)制映射的方式事實(shí)上是不精準(zhǔn)的。同時(shí)，對(duì)于32位的浮點(diǎn)數(shù)運(yùn)算，由于計(jì)算機(jī)中全精度二進(jìn)制計(jì)算在32位浮點(diǎn)表示下有一位隱藏位，而陣列映射無法體現(xiàn)隱藏位，故即使能夠精確映射32位浮點(diǎn)數(shù)，也無法實(shí)現(xiàn)全精度的浮點(diǎn)運(yùn)算。故現(xiàn)有的高精度存內(nèi)矢量-矩陣運(yùn)算單元無法實(shí)現(xiàn)對(duì)浮點(diǎn)數(shù)的精準(zhǔn)映射和全精度計(jì)算。另外，這種采用二進(jìn)制浮點(diǎn)格式進(jìn)行運(yùn)算的方式，為了精確的映射二進(jìn)制數(shù)據(jù)，比如2，在4位二進(jìn)制數(shù)表示下即為0010，那么就需要4個(gè)器件來映射一個(gè)數(shù)據(jù)，相應(yīng)的，如果需要執(zhí)行32bit的浮點(diǎn)運(yùn)算，一個(gè)數(shù)據(jù)就需要32個(gè)器件，若數(shù)據(jù)需要64位擴(kuò)展格式，需要的器件個(gè)數(shù)則進(jìn)一步增加，電路面積開銷較大。因而迫切的需要一種新的高精度存內(nèi)矢量-矩陣運(yùn)算單元執(zhí)行高精度浮點(diǎn)數(shù)的矢量-矩陣乘法運(yùn)算。

發(fā)明內(nèi)容

針對(duì)現(xiàn)有技術(shù)的以上缺陷或改進(jìn)需求，本發(fā)明提供了一種憶阻存內(nèi)矢量矩陣運(yùn)算器及運(yùn)算方法，其目的在于由此解決現(xiàn)有技術(shù)無法對(duì)浮點(diǎn)數(shù)執(zhí)行高精度計(jì)算的技術(shù)問題。

為實(shí)現(xiàn)上述目的，第一方面，本發(fā)明提供了一種憶阻存內(nèi)矢量矩陣運(yùn)算器，包括：輸入拆分單元、十進(jìn)制乘法單元和外部累加單元；其中，十進(jìn)制乘法單元有多個(gè)，且均包括憶阻器陣列；各十進(jìn)制乘法單元并行連接，輸入拆分單元的輸出端分別與各十進(jìn)制乘法單元的輸入端相連，各十進(jìn)制乘法單元的輸出端均與外部累加單元的輸入端相連；

輸入拆分單元用于將輸入的浮點(diǎn)數(shù)矢量和浮點(diǎn)數(shù)矩陣中的各浮點(diǎn)數(shù)位數(shù)分別進(jìn)行統(tǒng)一后按位進(jìn)行拆分，得到N個(gè)十進(jìn)制矢量和M個(gè)十進(jìn)制矩陣；將M個(gè)十進(jìn)制矩陣分別寫入到M個(gè)十進(jìn)制乘法單元的憶阻器陣列后，將每一個(gè)十進(jìn)制矢量依次并行的輸入到上述M個(gè)十進(jìn)制乘法單元的憶阻器陣列中；其中，M為浮點(diǎn)數(shù)矩陣中浮點(diǎn)數(shù)的位數(shù)，N為浮點(diǎn)數(shù)矢量中浮點(diǎn)數(shù)的位數(shù)，M小于或等于十進(jìn)制乘法單元的個(gè)數(shù)；十進(jìn)制矩陣的行數(shù)小于或等于憶阻器陣列的行數(shù)，列數(shù)小于或等于憶阻器陣列的列數(shù)；

十進(jìn)制乘法單元用于基于憶阻器陣列實(shí)現(xiàn)十進(jìn)制矢量與十進(jìn)制矩陣的乘法運(yùn)算，并將運(yùn)算結(jié)果輸入到外部累加單元中；

外部累加單元用于將所得各乘法運(yùn)算結(jié)果分別與對(duì)應(yīng)的補(bǔ)償系數(shù)相乘后進(jìn)行累加，所得結(jié)果即為浮點(diǎn)數(shù)矢量和浮點(diǎn)數(shù)矩陣的乘法運(yùn)算結(jié)果。

進(jìn)一步優(yōu)選地，上述憶阻器陣列為十字交叉結(jié)構(gòu)，憶阻器處于陣列的十字交叉點(diǎn)上；上述憶阻器陣列的大小為X×Y，相鄰兩列連接到一個(gè)電壓減法器上形成差分結(jié)構(gòu)；其中，X為正整數(shù)，Y為偶數(shù)；