[發(fā)明專利]基于動(dòng)態(tài)精度可配運(yùn)算的近似計(jì)算可重構(gòu)陣列

有效

• 申請(qǐng)?zhí)枺?/td>: 201710882550.4
• 申請(qǐng)日: 2017-09-26
• 公開(kāi)（公告）號(hào): CN107783935B
• 公開(kāi)（公告）日: 2021-03-19
• 發(fā)明（設(shè)計(jì)）人: 劉波;鄭夢(mèng)瑤;夏夢(mèng)雯;龔宇;楊軍;時(shí)龍興
• 申請(qǐng)（專利權(quán)）人: 東南大學(xué)
• 主分類號(hào): G06F15/78
• 分類號(hào): G06F15/78
• 代理公司: 南京蘇高專利商標(biāo)事務(wù)所(普通合伙) 32204
• 代理人: 李玉平

本發(fā)明公開(kāi)了一種基于動(dòng)態(tài)精度可配運(yùn)算的近似計(jì)算可重構(gòu)陣列，基于傳統(tǒng)的可重構(gòu)陣列，增加一個(gè)動(dòng)態(tài)精度控制模塊，用于實(shí)現(xiàn)如下操作：根據(jù)輸入的配置信息，動(dòng)態(tài)配置重構(gòu)陣列里計(jì)算單元的迭代次數(shù)，以滿足一定的精度需求；其硬件結(jié)構(gòu)包括迭代控制器和配置控制器；迭代控制器用于調(diào)整乘法器的計(jì)算精度，通過(guò)動(dòng)態(tài)配置迭代次數(shù)，可以滿足不同計(jì)算精度的要求。配置控制器用于重新動(dòng)態(tài)配置計(jì)算陣列模塊。本發(fā)明設(shè)計(jì)簡(jiǎn)單，可行性好，通過(guò)動(dòng)態(tài)調(diào)節(jié)迭代次數(shù)，從而實(shí)現(xiàn)了動(dòng)態(tài)精度可配，減小計(jì)算復(fù)雜度和計(jì)算時(shí)間，并且降低了功耗，同時(shí)保證了一定的精度。

技術(shù)領(lǐng)域

本發(fā)明涉及一種基于動(dòng)態(tài)精度可配運(yùn)算的近似計(jì)算可重構(gòu)陣列，屬于人工神經(jīng)網(wǎng)絡(luò)技術(shù)領(lǐng)域。

背景技術(shù)

隨著網(wǎng)絡(luò)的日益龐大，在軟件模型方面和硬件體系結(jié)構(gòu)方面對(duì)網(wǎng)絡(luò)壓縮與適當(dāng)處理精度的研究也越來(lái)越深入。盡管傳統(tǒng)的樹(shù)乘法器具有很高的準(zhǔn)確度，但在減少面積和能量消耗方面存在問(wèn)題。因此，引入了具有高能源效率的近似乘法器，用很少的精確度損失換取了更低的能耗。

可重構(gòu)架構(gòu)在處理某些神經(jīng)網(wǎng)絡(luò)時(shí)在性能和靈活性方面表現(xiàn)出優(yōu)越性。隨著神經(jīng)網(wǎng)絡(luò)的影響越來(lái)越大，對(duì)可重構(gòu)計(jì)算架構(gòu)的研究迫在眉睫。

我們進(jìn)一步優(yōu)化了迭代對(duì)數(shù)乘法器的近似乘數(shù)，提出了一種基于動(dòng)態(tài)精度可配運(yùn)算的近似計(jì)算可重構(gòu)陣列。

發(fā)明內(nèi)容

發(fā)明目的：為了解決現(xiàn)有技術(shù)中存在功耗過(guò)大、精度較低的問(wèn)題，本發(fā)明提供一種基于動(dòng)態(tài)精度可配運(yùn)算的近似計(jì)算可重構(gòu)陣列，不僅可以減少計(jì)算產(chǎn)生的功耗和時(shí)間，同時(shí)還保證了一定的計(jì)算精度，并且提高了計(jì)算的靈活性。

技術(shù)方案：一種基于動(dòng)態(tài)精度可配運(yùn)算的近似計(jì)算可重構(gòu)陣列，應(yīng)用于卷積神經(jīng)網(wǎng)絡(luò)、遞歸神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)加速、數(shù)字信號(hào)處理以及多媒體有關(guān)圖像、視頻壓縮的處理。其中卷積神經(jīng)網(wǎng)絡(luò)主要用于實(shí)現(xiàn)圖像識(shí)別和文字理解等；遞歸神經(jīng)網(wǎng)絡(luò)用于實(shí)現(xiàn)文件分類和語(yǔ)音識(shí)別。本發(fā)明的特點(diǎn)是在電路總控制器與傳統(tǒng)的可重構(gòu)陣列之間增加一個(gè)動(dòng)態(tài)精度控制模塊，用于實(shí)現(xiàn)如下操作：根據(jù)輸入的配置信息，動(dòng)態(tài)配置重構(gòu)陣列里計(jì)算單元的迭代次數(shù)，以滿足一定的精度需求；基于動(dòng)態(tài)精度可配運(yùn)算的近似計(jì)算可重構(gòu)陣列，其硬件結(jié)構(gòu)包括迭代控制器和配置控制器；

所述迭代控制器用于調(diào)整乘法器的計(jì)算精度，通過(guò)動(dòng)態(tài)配置迭代次數(shù)，可以滿足不同計(jì)算精度的要求。在迭代控制器中，網(wǎng)絡(luò)輸出同時(shí)傳輸?shù)絻蓚€(gè)加法器，兩個(gè)加法器的其他輸入對(duì)應(yīng)兩個(gè)預(yù)設(shè)閾值的負(fù)值，通過(guò)加法器實(shí)現(xiàn)減法操作(加法器完成減去閾值)，得到結(jié)果的符號(hào)位來(lái)確定迭代次數(shù)。當(dāng)前輸入隊(duì)列在上一次計(jì)算之后從數(shù)據(jù)存儲(chǔ)器中讀取，結(jié)果通過(guò)輸出隊(duì)列傳輸?shù)綌?shù)據(jù)存儲(chǔ)器。

所述迭代控制器，通過(guò)對(duì)輸出的有效位進(jìn)行評(píng)估，預(yù)測(cè)下一個(gè)時(shí)間步長(zhǎng)的精度要求，從而可以根據(jù)先前結(jié)果的質(zhì)量動(dòng)態(tài)重構(gòu)乘法器的迭代次數(shù)。動(dòng)態(tài)調(diào)整近似乘數(shù)的迭代次數(shù)，對(duì)于卷積神經(jīng)網(wǎng)絡(luò)和遞歸神經(jīng)網(wǎng)絡(luò)的第n+1層(n＝1、2、3…)，預(yù)測(cè)的迭代次數(shù)取決于第n層中輸出的最大值。通過(guò)對(duì)時(shí)間步長(zhǎng)t時(shí)的輸出進(jìn)行評(píng)估，得到輸出的最大值，并確定了卷積神經(jīng)網(wǎng)絡(luò)和遞歸神經(jīng)網(wǎng)絡(luò)第n層時(shí)計(jì)算的迭代次數(shù)。迭代次數(shù)的確定是根據(jù)網(wǎng)絡(luò)輸出的范圍，預(yù)設(shè)2個(gè)閾值(閾值是16bit的定點(diǎn)二進(jìn)制數(shù))，相應(yīng)地將輸出分為3個(gè)等級(jí)。每個(gè)級(jí)別對(duì)應(yīng)一定的精度，表示迭代次數(shù)。

所述配置控制器用于重新動(dòng)態(tài)配置計(jì)算陣列模塊。配置控制器包括預(yù)定義配置上下文模塊和動(dòng)態(tài)生成配置上下文模塊。兩者并行運(yùn)行，協(xié)同實(shí)現(xiàn)對(duì)計(jì)算陣列模塊的動(dòng)態(tài)配置。

其中，所述預(yù)定義配置上下文模塊用于讀取存儲(chǔ)在配置內(nèi)存中的配置上下文，以重新配置計(jì)算陣列，該模塊包括地址控制單元、路由控制單元以及計(jì)算控制單元。

地址控制單元用于控制先入先出陣列的存儲(chǔ)器訪問(wèn)地址，即動(dòng)態(tài)指定先入先出陣列的數(shù)據(jù)來(lái)源地址。路由控制單元實(shí)現(xiàn)處理單元之間的互聯(lián)方式，能夠高靈活的控制數(shù)據(jù)流向。計(jì)算控制單元用于控制處理單元中乘法器和加法器的操作，從而實(shí)現(xiàn)計(jì)算陣列的配置。當(dāng)?shù)刂房刂茊卧_定數(shù)據(jù)來(lái)源的地址，讀取數(shù)據(jù)并通過(guò)路由控制單元所確定的數(shù)據(jù)流向，輸出到計(jì)算控制單元，實(shí)現(xiàn)相應(yīng)的乘法或加法操作。