[發明專利]卷積運算裝置和方法

有效

• 申請號: 201711118938.3
• 申請日: 2017-10-29
• 公開（公告）號: CN109726353B
• 公開（公告）日: 2023-08-29
• 發明（設計）人: 請求不公布姓名
• 申請（專利權）人: 上海寒武紀信息科技有限公司
• 主分類號: G06F17/15
• 分類號: G06F17/15;G06N3/063;G06N3/0464;G06N3/048
• 代理公司: 廣州三環專利商標代理有限公司 44202
• 代理人: 郝傳鑫;熊永強

本發明公開了一種動態調壓調頻裝置，卷積運算裝置中的動態調壓調頻裝置實時采集獲取上述卷積運算及其內部其他單元/模塊的工作狀態信息，并根據根據卷積運算裝置及其內部其他單元/模塊的工作狀態信息來調整卷積運算裝置及其內部單元/模塊的工作頻率或者工作電壓，以達到降低卷積運算裝置在進行卷積運算過程中的整體運行功耗。

技術領域

本發明涉及電子領域，尤其涉及一種卷積運算裝置和方法。

背景技術

隨著工作頻率的提高和半導體工藝的不斷發展，芯片的功耗問題已成為深亞納米集成電路中的一個重要的考慮因素，動態電壓頻率調節(Dynamic?Voltage?Frequencyscaling，簡稱DVFS)為目前在半導體領域被廣泛采用的一種動態電壓頻率調節技術，DVFS技術具體是在動態調節芯片的運行頻率和電壓(對于同一芯片，頻率越高，需要的電壓也越高)，從而達到節能的目的。但是現有技術中，缺乏應用到智能芯片比如卷積運算裝置的動態調壓調頻方法和相應的裝置的設計。

發明內容

本發明實施例提供一種動態調壓調頻裝置及方法，實現了芯片級的工作電壓和工作頻率的動態調節，降低了芯片的功耗。

第一方面，本發明實施例提供一種卷積運算裝置，包括動態調壓調頻裝置、指令存儲單元、控制器單元、數據訪問單元、互連模塊、主運算模塊以及N個從運算模塊，所述N為大于1的整數，其中：

所述指令存儲單元，用于存儲所述數據訪問單元讀入的指令；

所述控制器單元，用于從所述指令存儲單元中讀取指令，將該指令譯成控制其他模塊行為的控制信號，所述其他模塊包括所述數據訪問單元、所述主運算模塊和所述N個從運算模塊；

所述數據訪問單元，用于執行外部地址空間與所述卷積運算裝置之間的數據或指令讀寫操作；

所述N個從運算模塊，用于實現卷積神經網絡算法中的輸入數據和卷積核的卷積運算；

所述互連模塊，用于所述主運算模塊和所述從運算模塊之間的數據傳輸；

所述主運算模塊，用于將所有輸入數據的中間向量拼接成中間結果，并對所述中間結果執行后續運算；

所述動態調壓調頻裝置，用于采集所述卷積運算裝置的工作狀態信息；根據所述卷積運算裝置的工作狀態信息向所述卷積運算裝置發送電壓頻率調控信息，所述電壓頻率調控信息用于指示所述卷積運算裝置調整其工作電壓或者工作頻率。

在一種可行的實施例中，所述主運算模塊還用于將中間結果與偏置數據相加，然后執行激活操作。

在一種可行的實施例中，所述N個從運算模塊具體用于利用相同的輸入數據和各自的卷積核，并行地計算出各自的輸出標量。

在一種可行的實施例中，所述主運算模塊使用的激活函數active是非線性函數sigmoid，tanh，relu，softmax中的任一個或線性函數。

在一種可行的實施例中，所述互連模塊構成所述主運算模塊和所述N個從運算模塊之間的連續或離散化數據的數據通路，所述互連模塊為樹狀結構、環狀結構、網格狀結構、分級互連和總線結構中的任一種結構。

在一種可行的實施例中，所述主運算模塊包括：

第一存儲單元，用于緩存所述主運算模塊在計算過程中用到的輸入數據和輸出數據；

第一運算單元，用于完成所述主運算模塊的各種運算功能；

第一數據依賴關系判定單元，是第一運算單元讀寫第一存儲單元的端口，用于保證對所述第一存儲單元的數據讀寫的一致性，并且從所述第一存儲單元讀取輸入的神經元向量，并通過所述互連模塊發送給所述N個從運算模塊；以及將來自所述互連模塊的中間結果向量被發送到第一運算單元。