[發(fā)明專利]一種基于軟硬件協(xié)同加速的神經(jīng)網(wǎng)絡(luò)推斷方法

有效

• 申請?zhí)枺?/td>: 202010047206.5
• 申請日: 2020-01-16
• 公開（公告）號(hào): CN111210019B
• 公開（公告）日: 2022-06-24
• 發(fā)明（設(shè)計(jì)）人: 彭析竹;梅亞軍;李俊燊;唐鶴
• 申請（專利權(quán)）人: 電子科技大學(xué)
• 主分類號(hào): G06N5/04
• 分類號(hào): G06N5/04;G06N3/063;G06N3/04
• 代理公司: 成都點(diǎn)睛專利代理事務(wù)所(普通合伙) 51232
• 代理人: 葛啟函

1.一種基于軟硬件協(xié)同加速的神經(jīng)網(wǎng)絡(luò)推斷方法，所述神經(jīng)網(wǎng)絡(luò)包括輸入層、N層卷積層、N層池化層、K層全連接層和輸出層，其中N和K均為正整數(shù)，且；

第i層池化層的輸入信號(hào)是第i層卷積層的輸出信號(hào)，其輸出信號(hào)是第i+1層卷積層的輸入信號(hào)，第1層卷積層的輸入信號(hào)是輸入層的輸出信號(hào)，；

第j層全連接層的輸入信號(hào)是第j-1層全連接層的輸出信號(hào)，；第1層全連接層的輸入信號(hào)是第N層池化層的輸出信號(hào)，第K層全連接層的輸出信號(hào)是輸出層的輸入信號(hào)；

其特征在于，所述軟硬件協(xié)同加速方法包括如下步驟：

步驟一、搭建所述神經(jīng)網(wǎng)絡(luò)所需的卷積運(yùn)算模塊、池化運(yùn)算模塊和全連接運(yùn)算模塊并進(jìn)行配置；

步驟二、利用所述步驟一搭建的所述卷積運(yùn)算模塊、池化運(yùn)算模塊和全連接運(yùn)算模塊搭建神經(jīng)網(wǎng)絡(luò)推斷系統(tǒng)的硬件系統(tǒng)；

步驟三、訓(xùn)練所述神經(jīng)網(wǎng)絡(luò)，將訓(xùn)練好的所述神經(jīng)網(wǎng)絡(luò)的參數(shù)和輸入數(shù)據(jù)存入所述神經(jīng)網(wǎng)絡(luò)推斷系統(tǒng)中進(jìn)行初始化；

步驟四、所述神經(jīng)網(wǎng)絡(luò)推斷系統(tǒng)開始工作，在每一個(gè)大工作周期中所述神經(jīng)網(wǎng)絡(luò)同時(shí)處理2個(gè)輸入數(shù)據(jù)；設(shè)定一個(gè)大工作周期中有2N個(gè)小工作周期，在每一個(gè)大工作周期的第1個(gè)小工作周期開始時(shí)將第一輸入信號(hào)輸入到所述神經(jīng)網(wǎng)絡(luò)的第一層卷積層，在每一個(gè)大工作周期的第2個(gè)小工作周期開始時(shí)將第二輸入信號(hào)輸入到所述神經(jīng)網(wǎng)絡(luò)的第一層卷積層，每個(gè)小工作周期所述神經(jīng)網(wǎng)絡(luò)完成一層運(yùn)算并將運(yùn)算結(jié)果輸入到下一層；所述第一輸入信號(hào)和第二輸入信號(hào)依次經(jīng)過所述神經(jīng)網(wǎng)絡(luò)的每一層運(yùn)算后獲得所述第一輸入信號(hào)和第二輸入信號(hào)的推斷結(jié)果；

所述步驟一中在現(xiàn)場可編程邏輯門陣列中搭建所述神經(jīng)網(wǎng)絡(luò)所需的卷積運(yùn)算模塊、池化運(yùn)算模塊和全連接運(yùn)算模塊，配置各個(gè)模塊內(nèi)部的寄存器，設(shè)定每個(gè)模塊的特征輸入、權(quán)重和偏置，調(diào)整卷積、池化和全連接運(yùn)算的規(guī)模大小；

所述步驟二中在片上系統(tǒng)異構(gòu)平臺(tái)上搭建所述神經(jīng)網(wǎng)絡(luò)推斷系統(tǒng)的硬件系統(tǒng)，所述上系統(tǒng)異構(gòu)平臺(tái)包括現(xiàn)場可編程邏輯門陣列和處理器；

所述步驟三中在圖形處理器中訓(xùn)練所述神經(jīng)網(wǎng)絡(luò)并將訓(xùn)練好的所述神經(jīng)網(wǎng)絡(luò)的參數(shù)和輸入數(shù)據(jù)存入外部存儲(chǔ)設(shè)備中，利用所述處理器將所述外部存儲(chǔ)設(shè)備中存儲(chǔ)的數(shù)據(jù)存入所述神經(jīng)網(wǎng)絡(luò)推斷系統(tǒng)的存儲(chǔ)器中。