[發明專利]一種計算裝置及方法

有效

• 申請號: 201710500167.8
• 申請日: 2017-06-27
• 公開（公告）號: CN109144470B
• 公開（公告）日: 2022-01-25
• 發明（設計）人: 不公告發明人
• 申請（專利權）人: 上海寒武紀信息科技有限公司
• 主分類號: G06F7/50
• 分類號: G06F7/50;G06F7/523;G06F7/544
• 代理公司: 中科專利商標代理有限責任公司 11021
• 代理人: 任巖

1.一種支持batch和多服務請求的計算裝置，包括:

分發配置模塊，用于分發配置信息；以及

計算模塊，包括多個計算單元，用于根據所述配置信息分成多個計算組，以分別計算batch中不同的正向和反向通路，或運行不同的服務的請求；

其中，所述計算模塊包括乘法器、加法樹、激活函數單元和/或池化單元，所述計算模塊選擇一個或多個計算單元進行不同的組合，用于實現各種不同功能的運算；

所述配置信息用于配置所述計算模塊中的功能和數據連接，從而支持所述計算模塊完成batch和多服務請求；

所述功能指計算功能，包括內積操作、外積操作、非線性函數操作和超越函數操作；

所述數據連接指根據所述計算功能，計算模塊所需的連接狀態。

2.根據權利要求1所述的計算裝置，其中，所述計算裝置在運行過程中，根據所述配置信息對所述計算模塊的分組進行動態調整。

3.根據權利要求1所述的計算裝置，其中，在訓練過程中，所述計算模塊還用于根據所述配置信息形成一個或者多個計算組以完成反向計算梯度及更新權值。

4.根據權利要求1所述的計算裝置，其中，所述多個計算單元為一維或多維形式。

5.根據權利要求1所述的計算裝置，其中，所述多個計算單元為同樣的計算單元，即同構模式；或不同的計算單元，即異構模式。

6.根據權利要求1所述的計算裝置，其中，所述計算單元為標量計算單元，用于完成標量乘法、標量加法或標量乘加操作；或向量計算單元，用于完成向量乘法、向量加法或向量內積操作；或混合計算單元，用于完成矩陣乘法加法操作、包含向量內積計算和非線性計算操作、或用于完成卷積計算操作。

7.根據權利要求1所述的計算裝置，其中，所述乘法器用于將輸入其中的數據相乘得到相乘之后的輸出；

所述加法樹包括一個或多個加法器，用于進行加法樹運算，即將輸入其中的數據逐級相加得到輸出數據。

8.根據權利要求1所述的計算裝置，所述激活函數單元用于通過激活函數運算得到激活輸出數據，所述激活函數包括sigmoid、tanh、relu或softmax。

9.根據權利要求1所述的計算裝置，所述池化單元用于將輸入數據通過池化運算以得到池化操作之后的輸出數據，所述池化操作包括：平均值池化、最大值池化、或中值池化。

10.根據權利要求1至9中任一項所述的計算裝置，還包括：

內部存儲模塊，用于存儲權值數據、神經元數據及指令；

以及控制模塊，用于控制計算模塊執行相應的運算，控制分發配置模塊分發配置信息，以及控制數據的發送與接收。

11.根據權利要求10所述的計算裝置，其中，所述內部存儲模塊包括：權值緩存單元、輸入神經元緩存單元、輸出神經元緩存單元以及包括指令緩存單元。

12.根據權利要求11所述的計算裝置，其中，所述控制模塊根據控制信號對計算模塊及分發配置模塊進行控制，其控制方式包括直接控制和解析控制，直接控制方式為直接將控制信號輸入到被控制模塊中，而不需要經過控制模塊解析；解析控制方式為控制信號需要在控制模塊中完成解析，得到解析后的控制信號再輸入到被控制模塊中用于配置和控制。