[發明專利]定點與浮點數據計算方法及裝置

有效

• 申請號: 201910363758.4
• 申請日: 2019-04-30
• 公開（公告）號: CN110069240B
• 公開（公告）日: 2021-09-03
• 發明（設計）人: 周韌研
• 申請（專利權）人: 北京探境科技有限公司
• 主分類號: G06F7/57
• 分類號: G06F7/57
• 代理公司: 北京知呱呱知識產權代理有限公司 11577
• 代理人: 孫進華;丁彥峰

1.一種定點與浮點數據計算方法，其特征在于，包括：

將M個第一預設格式的數據轉換為N個第二預設格式的數據；所述M個第一預設格式的數據包括1個半精度浮點格式的數據，以及2*N-2個半精度浮點格式的數據或者2*N-2個11位定點格式的數據；

將N個第二預設格式的數據進行相加，根據預設輸出格式，對相加結果進行輸出；其中，第一預設格式為浮點格式或第一定點格式，所述第二預設格式為第二定點格式，M=2*N-2，N為不小于1的整數;

所述浮點格式為半精度浮點格式，所述第一定點格式為11位定點格式，所述第二定點格式為41位定點格式；其中，將半精度浮點格式的數據轉換為41位定點格式的數據是通過轉換器實現的。

2.根據權利要求1所述的定點與浮點數據計算方法，其特征在于，所述將M個第一預設格式的數據轉換為N個第二預設格式的數據，包括：

將所述1個半精度浮點格式的數據轉換為1個41位定點格式的數據；

將所述2*N-2個半精度浮點格式的數據或者所述2*N-2個11位定點格式的數據，轉換為N-1個41位定點格式的數據。

3.根據權利要求2所述的定點與浮點數據計算方法，其特征在于，所述將所述2*N-2個半精度浮點格式的數據或者所述2*N-2個11位定點格式的數據，轉換為N-1個41位定點格式的數據，包括：

將所述2*N-2個半精度浮點格式的數據分為N-1對半精度浮點格式的數據，將每一對半精度浮點格式的數據進行相乘，并將N-1個相乘結果轉換為N-1個41位定點格式的數據；或者，

將所述2*N-2個11位定點格式的數據分為N-1對11位定點格式的數據，將每一對11位定點格式的數據進行相乘，并將N-1個相乘結果轉換為N-1個41位定點格式的數據。

4.根據權利要求1所述的定點與浮點數據計算方法，其特征在于，所述預設輸出格式為半精度浮點格式或者11位定點格式。

5.根據權利要求4所述的定點與浮點數據計算方法，其特征在于，所述相加結果為41位定點格式；相應地，所述根據預設輸出格式，對相加結果進行輸出，包括：

若所述預設輸出格式為半精度浮點格式且所述相加結果沒有溢出，則將所述相加結果轉換為半精度浮點格式的數據并進行輸出；

若所述預設輸出格式為11位定點格式，則將所述相加結果轉換為11位定點格式并進行定點移位，將定點移位結果進行輸出。

6.一種定點與浮點數據計算裝置，其特征在于，包括：

轉換模塊，用于將M個第一預設格式的數據轉換為N個第二預設格式的數據；所述M個第一預設格式的數據包括1個半精度浮點格式的數據，以及2*N-2個半精度浮點格式的數據或者2*N-2個11位定點格式的數據；

相加模塊，用于將N個第二預設格式的數據進行相加；

輸出模塊，用于根據預設輸出格式，對相加結果進行輸出；其中，第一預設格式為浮點格式或第一定點格式，所述第二預設格式為第二定點格式，M=2*N-2，N為不小于1的整數；其中，將半精度浮點格式的數據轉換為41位定點格式的數據是通過轉換器實現的。

7.一種電子設備，其特征在于，包括：

至少一個處理器；以及

與所述處理器通信連接的至少一個存儲器，其中：

所述存儲器存儲有可被所述處理器執行的程序指令，所述處理器調用所述程序指令能夠執行如權利要求1至5任一所述的方法。

8.一種非暫態計算機可讀存儲介質，其特征在于，所述非暫態計算機可讀存儲介質存儲計算機指令，所述計算機指令被執行以實現如權利要求1至5任一所述的方法。