[發明專利]一種卷積神經網絡計算裝置及方法

有效

• 申請號: 201910337943.6
• 申請日: 2019-04-25
• 公開（公告）號: CN110070178B
• 公開（公告）日: 2021-05-14
• 發明（設計）人: 王東
• 申請（專利權）人: 北京交通大學
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/063
• 代理公司: 北京市誠輝律師事務所 11430
• 代理人: 楊帥峰

1.一種卷積神經網絡計算裝置(2)，該裝置包括：

神經網絡模型緩存器(201)、神經網絡模型解碼器(202)、輸入神經網絡特征圖緩存器(203)、特征圖存儲控制器(204)、累加器陣列(205)、流水線緩存器(206)、乘累加器陣列(207)和輸出神經網絡特征圖緩存器(208)；其中，

所述神經網絡模型緩存器(201)用于緩存卷積神經網絡計算裝置(2)從外部存儲器讀入的部分或全部編碼卷積神經網絡模型(3)，所述編碼卷積神經網絡模型(3)包括至少一個卷積神經網絡權重邏輯索引表(301)和至少一個卷積神經網絡模型權重信息表(302)；所述卷積神經網絡權重邏輯索引表(301)至少存儲卷積神經網絡模型權重的邏輯索引(3011)；所述卷積神經網絡模型權重信息表(302)至少存儲卷積神經網絡模型(102)中所有可能的神經網絡模型權重值(3021)和模型權重個數(3022)信息；

所述輸入神經網絡特征圖緩存器(203)用于從外部存儲器或者輸出神經網絡特征圖緩存器(208)中讀取并緩存進行卷積運算所需要的輸入神經網絡特征圖像素值(1011)；

所述神經網絡模型解碼器(202)讀取存儲在神經網絡模型緩存器中(201)的卷積神經網絡模型權重信息表(302)、累加各神經網絡模型權重值(3021)所對應的模型權重個數(3022)、獲得當前卷積運算所需的卷積神經網絡模型權重的邏輯索引(3011)的數目，從卷積神經網絡權重邏輯索引表(301)中讀取相等數目的卷積神經網絡模型權重的邏輯索引(3011)并生成控制信息(209)，將所述邏輯索引(3011)發送給特征圖存儲控制器(204)，將所述控制信息(209)發送給所述累加器陣列(205)和乘累加器陣列(207)，所述控制信息(209)至少包括從卷積神經網絡模型權重信息表(302)中解碼得到的神經網絡模型權重值(3021)信息；

所述特征圖存儲控制器(204)，根據神經網絡卷積運算公式，將神經網絡模型權重的邏輯索引(3011)變換為進行卷積運算時對應位置的卷積神經網絡的特征圖邏輯索引(1012)，并根據根預先設定的特征圖邏輯索引—存儲器物理地址映射關系將特征圖邏輯索引(1012)轉換為實際的存儲器物理地址，讀取輸入神經網絡特征圖緩存器(203)中對應該物理地址的輸入神經網絡特征圖像素值(1011)，并發送給所述累加器陣列(205)；

所述累加器陣列(205)由至少一個累加器模塊(2051)構成，所述累加器模塊(2051)根據所述控制信息(209)將當前卷積運算中需與相同神經網絡模型權重值(3021)相乘的輸入神經網絡特征圖像素值(1011)相加，生成至少一個臨時累加結果(210)，所述臨時累加結果(210)與卷積神經網絡模型權重信息表(302)中的神經網絡模型權重值(3021)一一對應；

所述流水線緩存器(206)用于接收累加器陣列(205)輸出的臨時累加結果(210)，并進行緩存；緩存后的臨時累加結果(210)提供給所述乘累加器陣列(207)完成卷積運算；

所述乘累加器陣列(207)根據所述控制信息(209)將所述累加器陣列(207)生成的至少一個臨時累加結果(210)與對應的神經網絡模型權重值(3021)相乘，并將屬于當前卷積運算的乘積結果進行相加，生成輸出特征圖像素值(1031)，并將結果發送給所述輸出神經網絡特征圖緩存器(208)；

所述輸出神經網絡特征圖緩存器(208)用于接收所述乘累加器陣列(207)輸出的計算結果，并將計算結果緩存、輸出給外部存儲器或者輸入神經網絡特征圖緩存器(203)。

2.如權利要求1所述的卷積神經網絡計算裝置(2)，其中所述卷積神經網絡權重邏輯索引表(301)中存儲的所述模型權重的邏輯索引(3011)為卷積神經網絡模型(102)中各模型通道(1021)的模型權重的邏輯索引，且具有相同權重值的模型權重的邏輯索引(3011)存儲在所述邏輯索引表(301)的連續表項中；所述神經網絡模型權重信息表(302)中存儲的神經網絡模型權重值(3021)為卷積神經網絡模型(102)中同一模型通道(1021)內所有可能的非零神經網絡模型權重值；所述神經網絡模型權重信息表(302)中進一步存所述各神經網絡模型權重值(3021)所對應的模型權重個數(3022)，所述權重值(3021)與所述權重個數(3022)一一對應。