[發(fā)明專(zhuān)利]一種適用于移動(dòng)終端的二值神經(jīng)網(wǎng)絡(luò)前向傳播框架

在審

• 申請(qǐng)?zhí)枺?/td>: 201911410119.5
• 申請(qǐng)日: 2019-12-31
• 公開(kāi)（公告）號(hào): CN111160534A
• 公開(kāi)（公告）日: 2020-05-15
• 發(fā)明（設(shè)計(jì)）人: 陳剛;何晟宇
• 申請(qǐng)（專(zhuān)利權(quán)）人: 中山大學(xué)
• 主分類(lèi)號(hào): G06N3/04
• 分類(lèi)號(hào): G06N3/04;G06N3/08
• 代理公司: 廣州粵高專(zhuān)利商標(biāo)代理有限公司 44102
• 代理人: 陳偉斌

1.一種適用于移動(dòng)終端的二值神經(jīng)網(wǎng)絡(luò)前向傳播框架，包括模型轉(zhuǎn)換模塊和前向傳播模塊；其特征在于，所述模型轉(zhuǎn)換模塊用于將訓(xùn)練好的二值神經(jīng)網(wǎng)絡(luò)轉(zhuǎn)換為本框架專(zhuān)用的模型，在轉(zhuǎn)化過(guò)程中進(jìn)行數(shù)據(jù)的處理和預(yù)計(jì)算；所述前向傳播用于對(duì)轉(zhuǎn)換后的二值神經(jīng)網(wǎng)絡(luò)模型進(jìn)行前向傳播計(jì)算；

所述前向傳播模型包括數(shù)據(jù)儲(chǔ)存單元、運(yùn)算單元和優(yōu)化單元；所述數(shù)據(jù)儲(chǔ)存單元使用個(gè)數(shù)、高、寬、通道數(shù)的數(shù)據(jù)布局方式存儲(chǔ)數(shù)據(jù)并對(duì)數(shù)據(jù)進(jìn)行壓縮；所述運(yùn)算單元為GPU的計(jì)算單元，將二值化神經(jīng)網(wǎng)絡(luò)的操作層進(jìn)行合并；所述優(yōu)化單元在運(yùn)算單元中平衡線(xiàn)程讀寫(xiě)數(shù)據(jù)量與計(jì)算量。

2.根據(jù)權(quán)利要求1所述的一種適用于移動(dòng)終端的二值神經(jīng)網(wǎng)絡(luò)前向傳播框架，其特征在于，轉(zhuǎn)換后的二值神經(jīng)網(wǎng)絡(luò)模型按照由粗到細(xì)的粒度表示成網(wǎng)絡(luò)、層、張量；所述數(shù)據(jù)儲(chǔ)存單元的數(shù)據(jù)儲(chǔ)存于張量中。

3.根據(jù)權(quán)利要求2所述的一種適用于移動(dòng)終端的二值神經(jīng)網(wǎng)絡(luò)前向傳播框架，其特征在于，對(duì)數(shù)據(jù)進(jìn)行通道打包，通道數(shù)少于16，用0補(bǔ)全數(shù)據(jù)到16，通道數(shù)少于32，用0補(bǔ)全數(shù)據(jù)到32，不能被64整除的情況，將數(shù)據(jù)補(bǔ)齊到64的倍數(shù)的，

4.根據(jù)權(quán)利要求1所述的一種適用于移動(dòng)終端的二值神經(jīng)網(wǎng)絡(luò)前向傳播框架，其特征在于，所述運(yùn)算單元在二值神經(jīng)網(wǎng)絡(luò)模型的運(yùn)算中，將權(quán)值與數(shù)據(jù)都量化為{+1，-1}，設(shè)向量向量為B二值數(shù)據(jù)映射到硬件編碼的表示

二值神經(jīng)網(wǎng)絡(luò)模型的第一層運(yùn)算公式如下：

二值神經(jīng)網(wǎng)絡(luò)模型的非第一層運(yùn)算公式如下：

A·B＝-(2×popcnt(A^B)–vec_len)

其中，popcnt操作為數(shù)出結(jié)果中的二進(jìn)制位1的個(gè)數(shù)，vec_len為原始通道數(shù)量。

5.根據(jù)權(quán)利要求1所述的一種適用于移動(dòng)終端的二值神經(jīng)網(wǎng)絡(luò)前向傳播框架，其特征在于，所述運(yùn)算單元對(duì)卷積層與批標(biāo)準(zhǔn)化層進(jìn)行整合，整合為卷積-批標(biāo)準(zhǔn)化層，整合公式如下：

x₂＝x₁+b

而二值化操作是根據(jù)符號(hào)將原始數(shù)據(jù)轉(zhuǎn)變?yōu)?或者1，公式如下：

得到初步整合公式如下：

式中，γ，μ，σ，β為批標(biāo)準(zhǔn)化層的參數(shù)；b為卷積層中的偏置參數(shù)；x₁為卷積計(jì)算結(jié)果；x₂為卷積計(jì)算結(jié)果加上偏置b；x₃為批標(biāo)準(zhǔn)化層輸出結(jié)果；x₄為層整合結(jié)果。

6.根據(jù)權(quán)利要求5所述的一種適用于移動(dòng)終端的二值神經(jīng)網(wǎng)絡(luò)前向傳播框架，其特征在于，進(jìn)一步推導(dǎo)整合公式，得到：

x₄＝(A xor B)or C

式中，x₄為層整合結(jié)果；A為x₁ξ的真值；B為γ≥0的真值；C為x₁＝ξ的真值；x₁為卷積計(jì)算結(jié)果。

7.根據(jù)權(quán)利要求5所述的一種適用于移動(dòng)終端的二值神經(jīng)網(wǎng)絡(luò)前向傳播框架，其特征在于，所述運(yùn)算單元將卷積-批標(biāo)準(zhǔn)化層和二值化層整合為卷積-批標(biāo)準(zhǔn)化-二值化層。

8.根據(jù)權(quán)利要求1所述的一種適用于移動(dòng)終端的二值神經(jīng)網(wǎng)絡(luò)前向傳播框架，其特征在于，在所述優(yōu)化單元中，令運(yùn)算單元計(jì)算時(shí)，使用向量化方式讀寫(xiě)、計(jì)算數(shù)據(jù)，一次讀取和計(jì)算多個(gè)數(shù)據(jù)；以及相鄰線(xiàn)程計(jì)算相鄰內(nèi)存數(shù)據(jù)。