[發(fā)明專利]多樣本多通道卷積神經(jīng)網(wǎng)絡(luò)池化的向量化實(shí)現(xiàn)方法

有效

• 申請?zhí)枺?/td>: 201911001491.0
• 申請日: 2019-10-21
• 公開（公告）號: CN110796236B
• 公開（公告）日: 2022-06-17
• 發(fā)明（設(shè)計(jì)）人: 劉仲;魯建壯;雷元武;田希;陳海燕;劉勝;吳虎成;李勇;王耀華;李程
• 申請（專利權(quán)）人: 中國人民解放軍國防科技大學(xué)
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/063;G06N3/08
• 代理公司: 湖南兆弘專利事務(wù)所(普通合伙) 43008
• 代理人: 周長清;胡君

1.一種多樣本多通道卷積神經(jīng)網(wǎng)絡(luò)池化的向量化實(shí)現(xiàn)方法，其特征在于，步驟包括：

步驟1：將卷積神經(jīng)網(wǎng)絡(luò)池化層的輸入特征數(shù)據(jù)集數(shù)據(jù)按照樣本維優(yōu)先方式存儲；

步驟2：向量處理器按列將輸入特征數(shù)據(jù)集數(shù)據(jù)矩陣劃分為多個矩陣塊，得到多個輸入特征數(shù)據(jù)矩陣；

步驟3：向量處理器根據(jù)步長、過濾器的大小，依次按行從所述輸入特征數(shù)據(jù)矩陣中抽取指定大小矩陣塊傳輸?shù)较蛄刻幚砥鞯年嚵写鎯ζ鰽M的數(shù)據(jù)緩沖區(qū)中；

步驟4：向量處理器的各個核并行的對各自陣列存儲器AM的數(shù)據(jù)緩沖區(qū)中抽取出的矩陣塊進(jìn)行池化向量化計(jì)算，計(jì)算結(jié)果按順序傳輸至片外存儲器中；

步驟5：重復(fù)步驟3至步驟4，直到完成全部池化層計(jì)算，得到按所述樣本維優(yōu)先方式存儲的卷積神經(jīng)網(wǎng)絡(luò)池化層結(jié)果；

所述步驟3中具體抽取K*MB階矩陣塊傳輸?shù)较蛄刻幚砥鞯年嚵写鎯ζ鰽M的數(shù)據(jù)緩沖區(qū)中，其中K＝kernelH*kernelW*preC，kernelH*kernelW為過濾器的大小，preC為通道數(shù)，MB＝q*p，q為目標(biāo)向量處理器的核數(shù)，p為每個核的向量處理單元VPE的個數(shù)，傳輸?shù)矫總€核的陣列存儲器AM中的矩陣子塊規(guī)模為K*p階，抽取的所述K*MB階矩陣塊傳輸?shù)较蛄刻幚砥鞯年嚵写鎯ζ鰽M的數(shù)據(jù)緩沖區(qū)中的總次數(shù)nextH*nextW分別為：

nextH＝((preH-kernelH)/stepLen+1)

nextW＝((preW-kernelW)/stepLen+1)

其中，nextH為輸出圖像數(shù)據(jù)的高度，nextW為輸出圖像數(shù)據(jù)的寬度，stepLen為步長，preH*preW為卷積神經(jīng)網(wǎng)絡(luò)池化層的二維圖像輸入數(shù)據(jù)。

2.根據(jù)權(quán)利要求1所述的多樣本多通道卷積神經(jīng)網(wǎng)絡(luò)池化的向量化實(shí)現(xiàn)方法，其特征在于，所述步驟1中將卷積神經(jīng)網(wǎng)絡(luò)池化層的輸入特征數(shù)據(jù)集數(shù)據(jù)按照樣本維優(yōu)先的方式存儲包括：第一層卷積神經(jīng)網(wǎng)絡(luò)卷積層計(jì)算時，將輸入特征的數(shù)據(jù)集數(shù)據(jù)重排序，使得輸入特征的數(shù)據(jù)集數(shù)據(jù)按照N*M階的矩陣連續(xù)存儲在向量處理器的片外存儲器，其他層計(jì)算的輸入特征數(shù)據(jù)矩陣為上一層計(jì)算結(jié)果的輸出特征矩陣且是按照樣本維優(yōu)先的方式存儲在向量處理器的片外存儲器中，其中N＝preH*preW*preC為單個樣本的輸入特征數(shù)目，M為數(shù)據(jù)集的總樣本數(shù)目，M＝num*MB，num為正整數(shù)。

3.根據(jù)權(quán)利要求2所述的多樣本多通道卷積神經(jīng)網(wǎng)絡(luò)池化的向量化實(shí)現(xiàn)方法，其特征在于，所述步驟2中，具體將所述輸入特征數(shù)據(jù)集數(shù)據(jù)矩陣劃分為num個矩陣塊，每個矩陣塊的大小為N*MB階，其中MB為每個數(shù)據(jù)塊的大小，且MB＝q*p，q為目標(biāo)向量處理器的核數(shù)，p為每個核的向量處理單元VPE的個數(shù)。

4.根據(jù)權(quán)利要求3所述的多樣本多通道卷積神經(jīng)網(wǎng)絡(luò)池化的向量化實(shí)現(xiàn)方法，其特征在于，所述步驟1中N*M階矩陣，每一列存儲單個樣本的輸入特征，在各列的存儲順序?yàn)椋合仁峭ǖ婪较騼?yōu)先，接著是圖像寬度方向優(yōu)先，最后是圖像高度方向優(yōu)先；所述步驟5執(zhí)行完成后得到的輸出特征數(shù)據(jù)中，每一列存儲單個樣本的輸出特征，在各列的存儲順序?yàn)椋合仁峭ǖ婪较騼?yōu)先，接著是圖像寬度方向優(yōu)先，最后是圖像高度方向優(yōu)先。

5.根據(jù)權(quán)利要求1～4中任意一項(xiàng)所述的多樣本多通道卷積神經(jīng)網(wǎng)絡(luò)池化的向量化實(shí)現(xiàn)方法，其特征在于，所述步驟3中所述數(shù)據(jù)緩沖區(qū)設(shè)置有兩個，當(dāng)對其中一個數(shù)據(jù)緩沖區(qū)執(zhí)行計(jì)算的同時，對另一個數(shù)據(jù)緩沖區(qū)進(jìn)行數(shù)據(jù)傳輸。

6.根據(jù)權(quán)利要求1所述的多樣本多通道卷積神經(jīng)網(wǎng)絡(luò)池化的向量化實(shí)現(xiàn)方法，其特征在于，所述抽取K*MB階矩陣塊的具體步驟為：

步驟3.1：令執(zhí)行次數(shù)t＝nextW*r0+c0，其中0＝r0nextH，0＝c0nextW，t的取值范圍為{0,1,2,...,nextH*nextW-1}；

步驟3.2：令pos＝stepLen*preC*(c0+preW*r0)，從N*MB階矩陣的第pos行連續(xù)抽取kernelW*preC行；

步驟3.3：間隔preW*preC行連續(xù)抽取kernelW*preC行；

步驟3.4：判斷是否已經(jīng)抽取K行，若不是跳轉(zhuǎn)執(zhí)行步驟3.3，否則抽取結(jié)束。