[發明專利]張量浮點數據處理方法、裝置、設備及存儲介質

有效

• 申請號: 202011335691.2
• 申請日: 2020-11-25
• 公開（公告）號: CN112130807B
• 公開（公告）日: 2021-02-26
• 發明（設計）人: 石恒
• 申請（專利權）人: 上海燧原科技有限公司
• 主分類號: G06F7/57
• 分類號: G06F7/57
• 代理公司: 北京品源專利代理有限公司 11332
• 代理人: 孟金喆

1.一種張量浮點數據處理方法，其特征在于，包括：

獲取張量數據，所述張量數據包括多個浮點數據；

根據所述多個浮點數據的指數部和預設公共指數編碼長度確定公共指數編碼，所述公共指數編碼為所述多個浮點數據的共同使用的指數部；

依次遍歷所述多個浮點數據，根據目標浮點數據的目標指數部和所述公共指數編碼確定第一差值，所述目標浮點數據為當前遍歷的浮點數據；

根據目標浮點數據的目標指數部和所述預設公共指數編碼長度確定獨立指數編碼，所述獨立指數編碼為所述目標浮點數據自用的指數編碼；

根據所述第一差值對所述目標浮點數據的目標字長部進行右移，右移時所述目標字長部首部補入第一補位編碼，得到待裁剪的目標字長部；

根據所述預設公共指數編碼長度和預設編碼長度確定所述目標字長部的目標字長長度；

根據所述目標字長長度舍入所述待裁剪的目標字長部，得到字長編碼；

根據所述獨立指數編碼、所述目標浮點數據的標志位和所述字長編碼確定所述目標浮點數據的目標編碼，所述預設編碼長度為所述目標編碼的長度；

當遍歷完畢時，根據所述公共指數編碼以及所述多個浮點數據對應的多個目標編碼確定所述張量的編碼數據。

2.根據權利要求1所述的方法，其特征在于，所述根據所述多個浮點數據的指數部和預設公共指數編碼長度確定公共指數編碼，包括：

遍歷所述多個浮點數據，根據每次遍歷獲取的所述目標浮點數據的指數部確定最大指數部，所述最大指數部為所述多個浮點數據中數值最大指數部；

根據預設公共指數編碼長度對所述最大指數部進行截取，得到公共指數編碼。

3.根據權利要求1所述的方法，其特征在于，在根據每次遍歷獲取的所述目標浮點數據的指數部確定最大指數部之前，還包括：

將所述目標浮點數據的字長部轉換為定點數；

將所述目標浮點數據的指數部加一。

4.根據權利要求3所述的方法，其特征在于，所述將所述目標浮點數據的字長部轉換為定點數，包括：

將所述目標浮點數據的字長部右移一位；

舍入所述字長部的末位；

將高位隱藏的“1”移入所述字長部的首位。

5.根據權利要求1所述的方法，其特征在于，所述根據所述目標浮點數據的目標指數部和所述公共指數編碼確定第一差值，包括：

在所述公共指數編碼尾部補零，使得補零后的公共指數編碼與所述目標指數部位數相同；

計算所述補零后的公共指數編碼與所述目標指數部的第一差值。

6.根據權利要求1所述的方法，其特征在于，所述根據所述目標字長長度舍入所述待裁剪的目標字長部，得到字長編碼，包括：

根據所述目標字長長度截取所述待裁剪的目標字長部，得到準字長編碼；

將超出所述目標字長長度的冗余部舍入至所述準字長編碼，得到字長編碼。

7.根據權利要求1所述的方法，其特征在于，根據目標浮點數據的目標指數部和所述預設公共指數編碼長度確定獨立指數編碼，包括：

根據所述目標指數部的長度和所述預設公共指數編碼長度確定所述目標指數部中的未覆蓋字段；

根據所述未覆蓋字段中的數據確定獨立指數編碼。

8.根據權利要求1所述的方法，其特征在于，所述浮點數據為fp32，所述預設編碼長度為16位；或者，

所述浮點數據為bf16或fp16，所述預設編碼長度為8位。