[發明專利]一種應用于卷積神經網絡的池化處理的方法及系統

有效

• 申請號: 201711059065.3
• 申請日: 2017-11-01
• 公開（公告）號: CN109754359B
• 公開（公告）日: 2021-12-07
• 發明（設計）人: 于瀟宇;王玉偉;張博;張立鑫
• 申請（專利權）人: 騰訊科技（深圳）有限公司
• 主分類號: G06T1/20
• 分類號: G06T1/20;G06N3/02
• 代理公司: 深圳市深佳知識產權代理事務所(普通合伙) 44285
• 代理人: 王仲凱

本申請公開了一種池化處理的方法，應用于卷積神經網絡的池化處理系統，池化處理系統包括第一存儲設備、數據區域、池化核和池化控制器，該方法包括：池化控制器每個讀取周期從第一存儲設備中讀取k個特征數據，向數據區域寫入所讀取的k個特征數據，k個特征數據按照第一方向排布，在一個更新周期中，數據區域被寫入n隊按照第一方向排布的nk個數據，更新周期的時長為讀取周期的時長的n倍；在更新周期結束后，數據區域中的數據被傳遞到池化核做池化運算，數據區域中的數據包括nk個數據和排布在nk個數據之前的上一個更新周期中在第二方向上排布的最后m隊數據。本申請技術方案由于數據復用降低了存儲讀寫的次數，提高了池化處理的效率。

技術領域

本申請涉及計算機技術領域，具體涉及一種應用于卷積神經網絡的池化處理的方法、池化處理系統、芯片系統及計算機可讀存儲介質。

背景技術

近年來，深度學習研究的不斷深入，卷積神經網絡(Convolutional NeuralNetwork，CNN)可實現精確的圖像識別和分類，已經廣泛應用于醫療影像、安全、生物特征識別、機器人、無人駕駛等領域，成為深度學習的主要方向之一。

CNN通常包括卷積和池化(Pooling)兩個步驟，卷積就是使用一個二維的卷積核在輸入的圖像或二維數據上以可配置步長滑動，直至遍歷整個圖像或二維數據。卷積核的尺寸相對較小，在每次滑動過程中，從二維數據中獲取窗口大小的數據區，同時將卷積核中對應位置的權值與數據區數據相乘，而后求和。其中，卷積核的權值是通過訓練過程獲得。

因為圖像具有一種“靜態性”的屬性，這也就意味著在一個圖像區域有用的特征極有可能在另一個區域同樣適用。因此，為了描述大的圖像，一個很自然的想法就是對不同位置的特征進行聚合統計，例如，可以計算圖像一個區域上的某個特定特征的平均值或最大值來代表這個區域的特征，這個過程就是池化。

在CNN實現的大多數模型框架中，Pooling運算的頻次僅次于卷積。無論是均值模式還是最大值模式，以3*3的Pooling Kernel為例，計算每個位置時需要讀取9個位置的數據，對帶寬的要求較高。在高性能CNN處理器中，卷積環節占據了大部分計算資源，所以常存在Pooling滯后的現象，導致CNN的處理效率低下。

發明內容

為了解決現有技術中池化滯后，導致CNN的處理效率低下的問題，本申請實施例提供一種池化處理的方法，可以通過數據區域實現數據復用，從而減少了數據讀取的次數，提高了池化處理的效率，從而提高CNN的處理效率。本申請實施例還提供了相應的池化處理系統、芯片系統及計算機可讀存儲介質。

本申請第一方面提供一種應用于卷積神經網絡的池化處理的方法，所述方法應用于池化處理系統，所述池化處理系統包括第一存儲設備、數據區域、池化核和池化控制器，所述方法包括：

所述池化控制器每個讀取周期從所述第一存儲設備中讀取k個特征數據，所述k個特征數據包含于卷積運算所產生的特征圖中，所述k為大于1的整數；

所述池化控制器向所述數據區域寫入所讀取的k個特征數據，所述k個特征數據按照第一方向排布，在一個更新周期中，所述數據區域被寫入n隊按照所述第一方向排布的nk個數據，所述更新周期的時長為所述讀取周期的時長的n倍，所述n為大于1的整數；

在所述更新周期結束后，所述數據區域中的數據被傳遞到池化核做池化運算，所述數據區域中的數據包括所述nk個數據和排布在所述nk個數據之前的上一個更新周期中在第二方向上排布的最后m隊數據，并且所述數據區域緩存所述更新周期中在所述第二方向上排布的最后m隊數據用于下一個更新周期使用，所述m為正整數。

本申請第二方面提供一種卷積神經網絡的池化處理系統，所述池化處理系統包括第一存儲設備、數據區域、池化核和池化控制器；

所述池化控制器，用于每個讀取周期從所述第一存儲設備中讀取k個特征數據，所述k個特征數據包含于卷積運算所產生的特征圖中，所述k為大于1的整數；