[實用新型]神經網絡計算模組

有效

• 申請號: 201721254418.0
• 申請日: 2017-09-27
• 公開（公告）號: CN207895435U
• 公開（公告）日: 2018-09-21
• 發明（設計）人: 奧利維爾·泰馬姆;拉維·納拉亞納斯瓦米;哈西特·哈伊坦;禹同爀
• 申請（專利權）人: 谷歌有限責任公司
• 主分類號: G06F13/28
• 分類號: G06F13/28;G06N3/063;G06F9/302;G06F9/30;G06N3/04
• 代理公司: 中原信達知識產權代理有限責任公司 11219
• 代理人: 周亞榮;安翔

本申請涉及神經網絡計算模組。公開了一種計算單元，所述計算單元包括用于存儲輸入激活的第一存儲器群和用于存儲在執行計算中所使用的參數的第二存儲器群。所述計算單元包括至少一個cell，所述至少一個cell包括從所述第二存儲器群接收參數并執行計算的至少一個乘法累加(“MAC”)運算器.所述計算單元進一步包括第一遍歷單元，所述第一遍歷單元向所述第一存儲器群提供控制信號以使輸入激活被提供至能夠由所述MAC運算器訪問的數據總線。所述計算單元執行與數據陣列中的至少一個元素相關聯的一個或者多個計算，所述一個或多個計算由所述MAC運算器執行并且部分地包括從所述數據總線接收的所述輸入激活與從所述第二存儲器群接收的參數的乘法運算。

技術領域

本申請涉及神經網絡計算模組。

背景技術

本說明書大體上涉及一種用于計算深度神經網絡(“DNN”)層的神經網絡計算模組(tile)，該神經網絡計算模組允許減小的指令帶寬和指令存儲器。

實用新型內容

大體上，本說明書中描述的一個創新方面可以體現為一種用于加速張量計算的計算單元。該計算單元包括具有第一數據寬度的第一存儲器群和具有比第一數據寬度大的第二數據寬度的第二存儲器群，第一存儲器群用于存儲輸入激活或者輸出激活中的至少一個，第二存儲器群用于存儲執行計算時使用的一個或者多個參數。計算單元可以進一步包括至少一個cell，該至少一個cell包括從第二存儲器群接收參數并執行計算的至少一個乘法累加(“MAC”)運算器。計算單元可以進一步包括：與至少第一存儲器群進行數據通信的第一遍歷單元，該第一遍歷單元被配置為向第一存儲器群提供控制信號以使輸入激活被提供至能夠由MAC運算器訪問的數據總線。計算單元執行與數據陣列中的至少一個元素相關聯的一個或者多個計算，該一個或多個計算由 MAC運算器執行并且部分地包括從數據總線接收的輸入激活與從第二存儲器群接收的參數的乘法運算。

本說明書中描述的主題的另一個創新方面可以體現為一種用于加速張量計算的計算機實現的方法。該計算機實現的方法包括：響應于第一存儲器群接收到來自第一遍歷單元的控制信號，通過具有第一數據寬度的第一存儲器群，發送第一輸入激活，第一存儲器群被設置在計算單元中，并且其中，第一輸入激活由能夠通過計算單元的至少cell 訪問的數據總線來提供。該方法進一步包括：通過該至少一個cell，接收來自具有比第一數據寬度大的第二數據寬度的第二存儲器群的一個或者多個參數，并且其中，該至少一個cell包括至少一個乘法累加 (“MAC”)運算器。該方法還可以進一步包括：通過MAC運算器，執行與數據陣列中的至少一個元素相關聯的一個或者多個計算，其中，該一個或者多個計算部分地包括從數據總線訪問的至少第一輸入激活和從第二存儲器群接收到的至少一個參數的乘法運算。

本說明書中描述的主題的另一個創新方面可以體現為一種非暫時性計算機可讀存儲介質。該非暫時性計算機可讀存儲介質包括能夠由一個或者多個處理器執行的指令，該指令在這樣的執行時使一個或者多個處理器執行操作，該操作包括：響應于第一存儲器群接收到來自第一遍歷單元的控制信號，通過具有第一數據寬度的第一存儲器群，發送第一輸入激活，第一存儲器群被設置在計算單元中，并且其中，第一輸入激活由能夠通過計算單元的至少cell訪問的數據總線來提供。所執行的操作還可以包括：通過該至少一個cell，接收來自具有比第一數據寬度大的第二數據寬度的第二存儲器群的一個或者多個參數，并且其中，該至少一個cell包括至少一個乘法累加(“MAC”)運算器。所執行的操作還可以包括：通過MAC運算器，執行與數據陣列中的至少一個元素相關聯的一個或者多個計算，其中，該一個或者多個計算部分地包括從數據總線訪問的至少第一輸入激活和從第二存儲器群接收到的至少一個參數的乘法運算。