[發明專利]一種卷積神經網絡的運算方法、裝置和服務器

在審

• 申請號: 201611090817.8
• 申請日: 2016-11-30
• 公開（公告）號: CN108122030A
• 公開（公告）日: 2018-06-05
• 發明（設計）人: 楊弢;陳云;沈亦翀
• 申請（專利權）人: 華為技術有限公司
• 主分類號: G06N3/063
• 分類號: G06N3/063
• 代理公司: 廣州三環專利商標代理有限公司 44202
• 代理人: 郝傳鑫;熊永強

本發明實施例公開了一種用于卷積神經網絡的運算方法、裝置和服務器，通過對輸入矩陣中重復的數據進行壓縮，在卷積過程中減少加法運算和乘法運算的次數，以提高卷積運算的計算效率。

技術領域

本發明涉及數據處理領域，尤其涉及一種卷積神經網絡的運算方法、裝置和服務器。

背景技術

CNN(Convolutional Neural Network，卷積神經網絡)是一種人工神經網絡，將圖像處理中的二位離散卷積運算和人工神經網絡相結合，在語音分析和圖像識別領域有著廣泛的應用。典型的CNN包括卷積層、池化層以及全連接層，每一層根據輸入的數據進行相應的運算，將運算結果輸出給下一層，輸入的初始數據經過多層的運算之后得到一個最終的結果。假設輸入的初始數據為N*N像素的圖像，卷積核為一個2*2的矩陣，卷積核里中的4個參數為權值或權重。卷積核在圖像上平移，卷積核的每個元素與圖像上對應位置的數據相乘，再求和。通過卷積核在圖像上不斷的平移，根據求和的結果最終得到一個新的圖像，新的圖像為3*3像素的圖像。由上述的卷積過程可知，卷積運算本質上是乘累加運算，卷積運算可表示為C＝C+A*B，首先計算A*B的乘積，然后將乘積與累加寄存器中的值C相加，最后將加法結果寫回到累加寄存器中。在芯片領域加法運算和乘法運算都是功耗較大的運算，且乘法器和加法器會占用較多的芯片面積，特別是乘法器的數量過多時，芯片的面積越大，導致芯片的成本增加。因此業界對乘累加電路進行了一些優化：在電路層面對乘法器和加法器進行優化以降低功耗。例如，在乘法器的全加器中，對輸入數量0進行bypass(旁路)，直接得到加法結果。

申請人發現現有的卷積運算過程存在的問題是：在全加器的基礎上增加了額外的硬件邏輯，且新增的硬件邏輯位于關鍵路徑上，這樣會增加乘法運算的執行周期。

發明內容

本申請所要解決的技術問題在于，提供一種卷積神經網絡的運算方法和裝置。可減少相同數據的乘法運算和加法運算，以提高卷積運算的計算效率。