[發明專利]一種計算裝置及板卡

有效

• 申請號: 201811560966.5
• 申請日: 2018-12-20
• 公開（公告）號: CN109711540B
• 公開（公告）日: 2021-09-21
• 發明（設計）人: 不公告發明人
• 申請（專利權）人: 中科寒武紀科技股份有限公司
• 主分類號: G06N3/063
• 分類號: G06N3/063
• 代理公司: 廣州三環專利商標代理有限公司 44202
• 代理人: 郝傳鑫;熊永強

本申請提供一種計算裝置及板卡，所述計算裝置用于執行GRU運算，所述板卡，所述板卡包括：存儲器件、接口裝置和控制器件以及神經網絡芯片，所述神經網絡芯片包括計算裝置，所述存儲器件，用于存儲數據；所述接口裝置，用于實現所述芯片與外部設備之間的數據傳輸；所述控制器件，用于對所述芯片的狀態進行監控。本申請提供的計算裝置具有成本低、功耗低的優點。

技術領域

本申請涉及信息處理技術領域，具體涉及一種計算裝置及板卡。

背景技術

隨著信息技術的不斷發展和人們日益增長的需求，人們對信息及時性的要求越來越高了。目前，終端對信息的獲取以及處理均是基于通用處理器獲得的。例如通用處理器循環神經網絡被廣泛應用于語音識別，語言建模，翻譯，圖片描述等領域，近年來由于其較高的識別準確度和較好的可并行性，受到學術界和工業界越來越廣泛的關注。循環神經網絡具有時間衰減，為了解決循環神經網絡的時間衰減，提出了GRU(門控循環單元網絡，GatedRecurrent Unit)來解決時間衰減的問題。在實踐中發現，這種基于通用處理器運行軟件程序來運行GRU時，效率低，功耗高，而且各個處理器之間的相互通信成為性能的瓶頸。

發明內容

本申請實施例提供了一種計算裝置及相關產品，可提升GRU的處理速度，提高效率、節省功耗，在MLU上實現GRU的運算。

第一方面，本申請實施例提供一種GRU的運算方法，所述GRU包括：輸入層、隱層、重置門、更新門、當前記憶門和輸出層，所述運算方法應用于計算裝置，所述運算方法包括：

所述計算裝置獲取輸入層t時刻輸入的輸入數據x_t、前一個GRU的隱層輸入的輸出數據h_t-1和權值；

所述計算裝置從預先封裝的函數庫中調用預先構造的GRU算子；

所述計算裝置將輸入數據x_t、輸出數據h_t-1、權值輸入到所述預先構造的GRU算子中，得到輸出結果h_t。

第二方面，本申請實施例提供一種計算裝置，所述計算裝置用于執行GRU運算，所述GRU包括：輸入層、隱層、重置門、更新門、當前記憶門和輸出層；

所述計算裝置，用于獲取輸入層t時刻輸入的輸入數據x_t、前一個GRU的隱層輸入的輸出數據h_t-1和權值；

所述計算裝置，用于從預先封裝的函數庫中調用預先構造的GRU算子；

所述計算裝置，用于將輸入數據x_t、輸出數據h_t-1、權值輸入到所述預先構造的GRU算子中，得到輸出結果h_t。

第三方面，本申請實施例提供了一種GRU運算裝置，其特征在于，所述GRU運算裝置包括一個或多個第一方面提供的計算裝置，用于從其他處理裝置中獲取待運算數據和控制信息，并執行指定的GRU運算，將執行結果通過I/O接口傳遞給其他處理裝置；

當所述GRU裝置包含多個所述計算裝置時，所述多個所述計算裝置間可以通過特定的結構進行連接并傳輸數據；

其中，多個所述計算裝置通過快速外部設備互連總線PCIE總線進行互聯并傳輸數據，以支持更大規模的GRU的運算；多個所述計算裝置共享同一控制系統或擁有各自的控制系統；多個所述計算裝置共享內存或者擁有各自的內存；多個所述計算裝置的互聯方式是任意互聯拓撲。

第四方面，提供一種組合處理裝置，所述組合處理裝置包括第三方面的GRU運算裝置，通用互聯接口和其他處理裝置；

所述GRU運算裝置與所述其他處理裝置進行交互，共同完成用戶指定的計算操作。