[發(fā)明專利]一種針對CNN卷積層運算的加速陣列設(shè)計方法

在審

• 申請?zhí)枺?/td>: 201810385183.1
• 申請日: 2018-04-26
• 公開（公告）號: CN108537334A
• 公開（公告）日: 2018-09-14
• 發(fā)明（設(shè)計）人: 周玉山;姜凱;于治樓
• 申請（專利權(quán)）人: 濟南浪潮高新科技投資發(fā)展有限公司
• 主分類號: G06N3/063
• 分類號: G06N3/063;G06T1/20
• 代理公司: 濟南信達專利事務(wù)所有限公司 37100
• 代理人: 闞恭勇

1.一種針對CNN卷積層運算的加速陣列設(shè)計方法，其特征在于，

由計算單元PE組成3×5的陣列，支持3×3和5×5的卷積核運算模式，通過控制數(shù)據(jù)和參數(shù)的脈動輸入和在計算單元中的流動傳遞，完成乘法、累加運算后在每列（3×3）或每行（5×5）輸出卷積運算結(jié)果，進而完成卷積運算過程。

2.根據(jù)權(quán)利要求1所述的方法，其特征在于，

每個PE可以完成相乘、累加和多路選擇的功能，其中多路選擇的功能包括選擇計算的數(shù)據(jù)和輸出結(jié)果的流向。

3.根據(jù)權(quán)利要求2所述的方法，其特征在于，

當運算模式為3×3時，輸入圖片以行為單位從左側(cè)輸入，傳輸方向為從左下到右上，左上角的輸入是輸入數(shù)據(jù)的第一行，向下依次為第二行、第三行，底部從左向右，依次為第四行到第七行。

4.根據(jù)權(quán)利要求3所述的方法，其特征在于，

當運算模式為5×5時，輸入數(shù)據(jù)的順序與3×3時相反，但是數(shù)據(jù)傳遞的方向不變。

5.根據(jù)權(quán)利要求4所述的方法，其特征在于，

運算模式為3×3時，權(quán)重數(shù)據(jù)以行為單位從左側(cè)進入，傳遞方向為從左向右；運算模式為5×5時，權(quán)重數(shù)據(jù)以行為單位從下側(cè)進入，向上傳遞。

6.根據(jù)權(quán)利要求5所述的方法，其特征在于，

33的運算模式過程為：

1）數(shù)據(jù)和卷積核權(quán)重從左側(cè)進入，分別是row1、row2、row3的第一個數(shù)，以及卷積核各行的第一個數(shù)據(jù)，完成相乘運算，結(jié)果暫時緩存在PE內(nèi)的存儲器內(nèi)；

2）接下來數(shù)據(jù)向右上傳遞，權(quán)重向右傳輸，則在陣列的第二列完成數(shù)據(jù)的row2、row3、row4這三行數(shù)據(jù)的第一個數(shù)據(jù)與卷積核的各行第一個數(shù)據(jù)的相乘運算，同時，在陣列的第一列完成輸入數(shù)據(jù)的row1、row2、row3的第二個數(shù)據(jù)與卷積核各行的第二個數(shù)據(jù)的相乘運算，并與上一次的結(jié)果進行累加運算；

3）接下來數(shù)據(jù)繼續(xù)向右上傳遞，權(quán)重向右傳輸，在陣列的第三列完成數(shù)據(jù)的row3、row4、row5這三行數(shù)據(jù)的第一個數(shù)據(jù)與卷積核的各行第一個數(shù)據(jù)的相乘運算，同時，在陣列的第二列完成輸入數(shù)據(jù)的row2、row3、row4的第二個數(shù)據(jù)與卷積核各行的第二個數(shù)據(jù)的相乘運算，并與上一次的結(jié)果進行累加運算；在陣列的第一列完成輸入數(shù)據(jù)的row1、row2、row3的第三個數(shù)據(jù)與卷積核各行的第三個數(shù)據(jù)的相乘運算，并與上一次的結(jié)果進行累加運算；

4）在陣列的第一列已經(jīng)完成了第一個卷積核的整個運算，接下來第一列每個PE的計算結(jié)果向上傳遞，并完成累加過程，從上端輸出第一個卷積的計算結(jié)果；接下來每一列的運算與第一列相同；

5）第一列完成卷積運算后，輸入數(shù)據(jù)和權(quán)重繼續(xù)從左側(cè)輸入，這次數(shù)據(jù)輸入的是每行的第二個數(shù)據(jù)，權(quán)重依舊是每行的第一個數(shù)據(jù)；

6）最后，陣列的計算結(jié)果從上端輸出，每一列的輸出對應(yīng)著output的行。

7.根據(jù)權(quán)利要求6所述的方法，其特征在于，

一次運算組合輸出output的5行，運算完成后，轉(zhuǎn)至下面五行繼續(xù)運算。

8.根據(jù)權(quán)利要求7所述的方法，其特征在于，

當運算模式為55時，其運算流程與運算模式為33過程不同的是輸入數(shù)據(jù)的順序與33時相反，權(quán)重數(shù)據(jù)從下側(cè)進入，輸出結(jié)果從右側(cè)輸出，每次組合運算輸出3行。