[發(fā)明專利]基于異構(gòu)計(jì)算的卷積神經(jīng)網(wǎng)絡(luò)資源優(yōu)化配置方法

有效

• 申請(qǐng)?zhí)枺?/td>: 201911293482.3
• 申請(qǐng)日: 2019-12-12
• 公開（公告）號(hào): CN112988229B
• 公開（公告）日: 2022-08-05
• 發(fā)明（設(shè)計(jì)）人: 王浩;曹姍;徐樹公;張舜卿
• 申請(qǐng)（專利權(quán)）人: 上海大學(xué)
• 主分類號(hào): G06F9/30
• 分類號(hào): G06F9/30;G06N3/04
• 代理公司: 上海交達(dá)專利事務(wù)所 31201
• 代理人: 王毓理;王錫麟

1.一種基于異構(gòu)計(jì)算的卷積神經(jīng)網(wǎng)絡(luò)資源優(yōu)化配置方法，其特征在于，針對(duì)卷積神經(jīng)網(wǎng)絡(luò)的卷積層、偏置層、池化層、relu層和全連接層進(jìn)行逐層計(jì)算復(fù)雜度分析和數(shù)據(jù)復(fù)雜度分析，得到計(jì)算通信比，基于計(jì)算通信比的排序在異構(gòu)計(jì)算平臺(tái)上以運(yùn)算速度和效率作為優(yōu)化目標(biāo)進(jìn)行資源配置，即將計(jì)算通信比高的部分，即大于2(op/Byte)時(shí)屬于計(jì)算密集型的部分配置于FPGA上進(jìn)行計(jì)算，其余部分配置于ARM上進(jìn)行計(jì)算；

所述的包括：卷積層的計(jì)算通信比為：全連接層的計(jì)算通信比為：池化層和Relu層的計(jì)算通信比趨向于無窮；偏置層的計(jì)算通信比為：其中：

所述的卷積層的總的數(shù)據(jù)復(fù)雜度為：W_in*H_in*N+K_w*K_h*N*M+W_out*H_out*M，總的計(jì)算復(fù)雜度為：(2*K_w*K_h*N-1)*W_out*H_out*M，其中：輸入特征圖的尺寸是W_in*H_in*N，卷積核的尺寸是K_w*K_h*N*M，輸出特征圖尺寸是W_out*H_out*M；乘法運(yùn)算復(fù)雜度為：K_w*K_h*N*W_out*H_out*M；加法運(yùn)算復(fù)雜度為：(K_w*K_h*N-1)*W_out*H_out*M；特征圖數(shù)據(jù)復(fù)雜度：W_in*H_in*N+W_out*H_out*M；參數(shù)數(shù)據(jù)復(fù)雜度：K_w*K_h*N*M；

所述的全連接層的總的數(shù)據(jù)復(fù)雜度為：總的計(jì)算復(fù)雜度為：2*N*M-M，總的數(shù)據(jù)復(fù)雜度為：N+M+M*N，其中：輸入向量的維度是N，輸出向量的維度是M，權(quán)值的尺寸N*M，乘法運(yùn)算復(fù)雜度為：N*M；加法運(yùn)算復(fù)雜度為：(N-1)*M；特征圖數(shù)據(jù)復(fù)雜度：N+M；參數(shù)數(shù)據(jù)復(fù)雜度：M*N；

所述的池化層的總的計(jì)算復(fù)雜度為：(K_w*K_h-1)*W_out*H_out*N，總的數(shù)據(jù)復(fù)雜度為：W_in*H_in*N+W_out*H_out*N，其中：輸入特征圖的尺寸是W_in*H_in*N，滑窗的尺寸是K_w*K_h，輸出特征圖尺寸是W_out*H_out*N；特征圖數(shù)據(jù)復(fù)雜度：W_in*H_in*N+W_out*H_out*N；參數(shù)數(shù)據(jù)復(fù)雜度：0；

所述的偏置層的總的計(jì)算復(fù)雜度為：W*H*M，總的數(shù)據(jù)復(fù)雜度為：W*H*(M+N)+M，其中：輸入特征圖的尺寸是W*H*N，輸出特征圖尺寸是W*H*M；特征圖數(shù)據(jù)復(fù)雜度：W*H*(M+N)；參數(shù)數(shù)據(jù)復(fù)雜度：M；

所述的Relu層的總的計(jì)算復(fù)雜度為：W*H*N，總的數(shù)據(jù)復(fù)雜度為：2*N*W*H，其中：輸入特征圖的尺寸是W*H*N，輸出特征圖尺寸是W*H*N；特征圖數(shù)據(jù)復(fù)雜度：2*N*W*H；參數(shù)數(shù)據(jù)復(fù)雜度：0。

2.根據(jù)權(quán)利要求1所述的基于異構(gòu)計(jì)算的卷積神經(jīng)網(wǎng)絡(luò)資源優(yōu)化配置方法，其特征是，將全連接層配置于ARM上進(jìn)行處理，而其余層在FPGA上進(jìn)行處理。