[發明專利]運算裝置以及相關產品

在審

• 申請號: 202010301181.7
• 申請日: 2020-04-16
• 公開（公告）號: CN113537476A
• 公開（公告）日: 2021-10-22
• 發明（設計）人: 不公告發明人
• 申請（專利權）人: 中科寒武紀科技股份有限公司
• 主分類號: G06N3/063
• 分類號: G06N3/063;G06N20/00
• 代理公司: 北京林達劉知識產權代理事務所(普通合伙) 11277
• 代理人: 劉新宇

1.一種運算裝置，其特征在于，所述運算裝置包括：

處理單元、第一存儲單元和第二存儲單元；

所述運算裝置接收外部輸入的輸入數據以及二進制可執行文件，

其中，所述輸入數據包括激活表和待處理的輸入張量，所述運算裝置將激活表存儲至第一存儲單元，將輸入張量存儲至第二存儲單元；

所述處理單元運行所述二進制可執行文件時，從第二存儲單元中讀取輸入張量，對所述輸入張量進行縮放處理得到縮放輸入張量，查找第一存儲單元中的激活表對縮放輸入張量進行激活得到中間激活結果，對中間激活結果進行縮放恢復處理得到激活結果，并將激活結果輸出到第二存儲單元。

2.根據權利要求1所述的運算裝置，其特征在于，所述縮放處理包括：

所述處理單元根據所述輸入張量、激活區間、縮放系數計算第一縮放張量，將第一縮放張量與輸入張量進行對位乘得到縮放輸入張量；

所述縮放恢復處理包括：所述處理單元根據所述輸入張量、激活區間和恢復系數第一恢復張量，采用第一恢復張量對中間激活結果進行恢復處理得到輸入張量的激活結果；

其中，所述激活區間用于表示激活表能夠覆蓋的數值范圍，所述縮放系數用于表示對輸入張量中的數據進行縮放的倍數，所述恢復系數用于表示對中間激活結果進行縮放恢復的倍數。

3.根據權利要求2所述的運算裝置，其特征在于，

所述處理單元用于：

根據輸入張量與激活區間確定第一索引張量以及第二索引張量；

根據第二索引張量和縮放系數計算第二縮放張量，根據第二索引張量和恢復系數計算第二恢復張量；

根據第一索引張量和第二縮放張量計算第一縮放張量，根據第一索引張量和第二恢復張量計算第一恢復張量。

4.根據權利要求2或3所述的運算裝置，其特征在于，所述第一索引張量、第二索引張量的形狀和輸入張量的形狀相同，

如果輸入張量中的任一元素在激活區間內，則在第一索引張量中與該元素對應位置的元素為1，在第二索引張量中與該元素對應位置的元素為0；

如果輸入張量中的任一元素不在激活區間內，則在第一索引張量中與該元素對應位置的元素為0，在第二索引張量中與該元素對應位置的元素為1。

5.根據權利要求3所述的運算裝置，其特征在于，所述處理單元用于，將第二索引張量中的元素乘以所述縮放系數得到第二縮放張量，將第二索引張量中的元素乘以所述恢復系數得到第二恢復張量。

6.根據權利要求3-5任意一項所述的運算裝置，其特征在于，所述第一縮放張量為第一索引張量和第二縮放張量的和，所述第一恢復張量為第一索引張量和第二恢復張量的和。

7.根據權利要求1-6任意一項所述的運算裝置，其特征在于，所述輸入張量為從圖像、音頻或者視頻提取的張量數據。

8.根據權利要求1-6任意一項所述的運算裝置，其特征在于，

所述第一存儲單元為片上的靜態隨機存取存儲器SRAM，所述第二存儲單元為片外的雙倍數據速率DDR存儲器。

9.一種人工智能芯片，其特征在于，所述芯片包括如權利要求1-8中任意一項所述的運算裝置。

10.一種電子設備，其特征在于，所述電子設備包括如權利要求9所述的人工智能芯片。

11.一種板卡，其特征在于，所述板卡包括：存儲器件、接口裝置和控制器件以及如權利要求9所述的人工智能芯片；

其中，所述人工智能芯片與所述存儲器件、所述控制器件以及所述接口裝置分別連接；

所述存儲器件，用于存儲數據；

所述接口裝置，用于實現所述人工智能芯片與外部設備之間的數據傳輸；

所述控制器件，用于對所述人工智能芯片的狀態進行監控。