[發明專利]點積計算裝置

有效

• 申請號: 202110456687.X
• 申請日: 2021-04-27
• 公開（公告）號: CN112988112B
• 公開（公告）日: 2021-08-10
• 發明（設計）人: 不公告發明人
• 申請（專利權）人: 北京壁仞科技開發有限公司;上海壁仞智能科技有限公司
• 主分類號: G06F7/523
• 分類號: G06F7/523
• 代理公司: 北京市金杜律師事務所 11256
• 代理人: 王茂華

1.一種點積計算裝置，包括：

具有預定輸入位寬的4N個乘法單元，N為正整數；

N個4:2壓縮單元，與所述4N個乘法單元對應耦接，所述N個4:2壓縮單元被配置為將所述4N個乘法單元的4N個乘法結果壓縮成2N個壓縮結果；

2N個第一移位單元，與所述N個4:2壓縮單元對應耦接，所述2N個第一移位單元被配置為對所述2N個壓縮結果進行移位，以生成2N個第一移位結果；

指數處理單元，與所述2N個第一移位單元相耦接，所述指數處理單元被配置為基于輸入的N個或2N個浮點數指數和，確定用于所述2N個第一移位單元的2N個移位值；

加法樹單元，與所述2N個第一移位單元相耦接，所述加法樹單元被配置為對所述2N個第一移位結果進行壓縮，以生成加法樹壓縮結果；以及

全加單元，與所述加法樹單元相耦接，所述全加單元被配置為對所述加法樹壓縮結果求和，以生成點積計算結果。

2.根據權利要求1所述的點積計算裝置，還包括2N個第一選擇單元，與所述N個4:2壓縮單元、所述4N個乘法單元中的2N個乘法單元以及所述2N個第一移位單元對應耦接，所述2N個第一選擇單元被配置為選擇所述2N個壓縮結果或所述2N個乘法單元的2N個乘法結果，以輸出到所述2N個第一移位單元。

3.根據權利要求2所述的點積計算裝置，其中所述2N個第一選擇單元還被配置為響應于與第一預定精度相關聯的第一控制信號，選擇所述2N個壓縮結果，以及響應于與第二預定精度相關聯的第二控制信號，選擇所述2N個乘法結果。

4.根據權利要求1所述的點積計算裝置，還包括4N個第二選擇單元，與所述2N個第一移位單元、所述4N個乘法單元以及所述加法樹單元對應耦接，所述4N個第二選擇單元被配置為選擇所述2N個第一移位結果或者所述4N個乘法結果，以輸出到所述加法樹單元。

5.根據權利要求4所述的點積計算裝置，其中所述4N個第二選擇單元還被配置為響應于與第三預定精度相關聯的第三控制信號，選擇所述4N個乘法結果，以及響應于與第一預定精度或第二預定精度相關聯的第四控制信號，選擇所述2N個第一移位結果。

6.根據權利要求1所述的點積計算裝置，其中所述指數處理單元還被配置為：

確定所述N個或2N個浮點數指數和中的最大值；以及

對于所述2N個第一移位單元中的每個第一移位單元，確定所述最大值與所述第一移位單元所對應的浮點數指數和之間的差，作為用于所述第一移位單元的移位值。

7.根據權利要求1所述的點積計算裝置，還包括2N個第二移位單元，與所述4N個乘法單元中的2N個乘法單元和所述N個4:2壓縮單元對應耦接，所述2N個第二移位單元中與相同壓縮單元相耦接的每2個第二移位單元被配置為對所耦接2個乘法單元的2個乘法結果中的高位乘法結果向左移位所述預定輸入位寬，以及對所述2個乘法結果中的低位乘法結果向右移位所述預定輸入位寬，以輸出到所耦接的壓縮單元。

8.根據權利要求7所述的點積計算裝置，還包括N個符號位補償單元，與所述N個4:2壓縮單元、所述2N個第一移位單元和所述4N個乘法單元中的N個乘法單元對應耦接，所述N個乘法單元與執行向右移位所述預定輸入位寬的N個第二移位單元對應耦接，所述N個符號位補償單元被配置為基于輸入的N個乘法符號結果和所述N個乘法單元的N個乘法結果，對所述2N個壓縮結果進行符號位補償，以輸出到所述2N個第一移位單元。