[發(fā)明專利]一種用于二值化神經(jīng)網(wǎng)絡(luò)的加速器結(jié)構(gòu)及循環(huán)展開(kāi)方法

有效

• 申請(qǐng)?zhí)枺?/td>: 202010631640.8
• 申請(qǐng)日: 2020-07-03
• 公開(kāi)（公告）號(hào): CN111797977B
• 公開(kāi)（公告）日: 2022-05-20
• 發(fā)明（設(shè)計(jì)）人: 張國(guó)和;趙科芃;孫莉;梁峰;陳琳;丁莎
• 申請(qǐng)（專利權(quán)）人: 西安交通大學(xué);南京擬態(tài)智能技術(shù)研究院有限公司
• 主分類號(hào): G06N3/04
• 分類號(hào): G06N3/04;G06N3/063
• 代理公司: 西安通大專利代理有限責(zé)任公司 61200
• 代理人: 王艾華

1.一種用于二值化神經(jīng)網(wǎng)絡(luò)的加速器結(jié)構(gòu)，其特征在于，加速器包括兩塊特征值SRAM，位寬為n*K，K塊權(quán)值SRAM，位寬為K，K個(gè)卷積計(jì)算模塊，K個(gè)加法樹單元，K個(gè)累加器，兩塊特征值SRAM均連接輸入K個(gè)卷積計(jì)算模塊，K塊權(quán)值SRAM分別對(duì)應(yīng)輸入至K個(gè)權(quán)值SRAM,每個(gè)卷積計(jì)算模塊的輸出連接到相對(duì)應(yīng)的加法樹單元，計(jì)算結(jié)果再連接到每個(gè)累加器，所有累加器的結(jié)果全部接入另一塊特征值SRAM，K值可以根據(jù)算法自行調(diào)節(jié)，為2的指數(shù)冪。

2.根據(jù)權(quán)利要求1所述的用于二值化神經(jīng)網(wǎng)絡(luò)加速器結(jié)構(gòu)，其特征在于，兩塊特征值SRAM分別交替存放輸入和輸出特征值。

3.根據(jù)權(quán)利要求1所述的用于二值化神經(jīng)網(wǎng)絡(luò)加速器結(jié)構(gòu)，其特征在于，卷積計(jì)算模塊內(nèi)部計(jì)算單元和K值相關(guān)，采用如下式所示的函數(shù)來(lái)計(jì)算權(quán)值為1bit的卷積運(yùn)算，其中f為特征值，w為1bit的權(quán)值，⊙為同或操作，～為取反操作，

f＝f⊙w+(～w)。

4.根據(jù)權(quán)利要求1所述的用于二值化神經(jīng)網(wǎng)絡(luò)加速器結(jié)構(gòu)，其特征在于，加法樹單元采用流水線設(shè)計(jì)，減少加速器的關(guān)鍵路徑長(zhǎng)度。

5.采用了一種如權(quán)利要求1所述的用于二值化神經(jīng)網(wǎng)絡(luò)的加速器結(jié)構(gòu)的循環(huán)展開(kāi)方法，如下步驟：

S1：同時(shí)計(jì)算前K個(gè)通道的第一個(gè)特征值與對(duì)應(yīng)前K個(gè)輸出通道的第一個(gè)權(quán)值的卷積計(jì)算；

S2：得到的結(jié)果經(jīng)過(guò)K個(gè)加法樹單元后進(jìn)入分別進(jìn)入K個(gè)累加器；

S3：計(jì)算前K+1～2K個(gè)通道的第一個(gè)特征值與對(duì)應(yīng)前K個(gè)輸出通道的第一個(gè)權(quán)值的卷積計(jì)算，重復(fù)S1，S2的內(nèi)容，直到CIN個(gè)輸入通道的第一個(gè)特征值都與前K個(gè)輸出通道的第一個(gè)權(quán)值的卷積計(jì)算完成，并存入對(duì)應(yīng)的前K個(gè)累加器；

S4：重復(fù)S1，S2，S3的步驟，將一個(gè)W*W內(nèi)的特征值全部算完，此時(shí)累加器內(nèi)累加的結(jié)果就是前K個(gè)輸出通道的第一個(gè)特征值的輸出結(jié)果；

S5：將結(jié)果存入另一個(gè)SRAM，清空累加器；

S6：重復(fù)S1，S2，S3，S4，S5的步驟，直到COUT個(gè)輸出通道的第一個(gè)特征值都已經(jīng)計(jì)算完成存入SRAM；

S7：重復(fù)S1，S2，S3，S4，S5，S6的步驟，直到輸出通道的FH*FW個(gè)特征值全部計(jì)算完成。