[發明專利]一種數據處理方法、裝置及存儲介質

在審

• 申請號: 202210646271.9
• 申請日: 2022-06-08
• 公開（公告）號: CN114972955A
• 公開（公告）日: 2022-08-30
• 發明（設計）人: 翟季冬;馬子軒;王豪杰;馮冠宇;張晨
• 申請（專利權）人: 清華大學
• 主分類號: G06V10/82
• 分類號: G06V10/82;G06V10/74;G06V10/776
• 代理公司: 北京林達劉知識產權代理事務所(普通合伙) 11277
• 代理人: 劉新宇

1.一種數據處理方法，其特征在于，所述方法包括：

獲取深度學習模型中的待處理數據組；所述待處理數據組包括深度學習模型在對圖像進行識別過程中處理的輸入數據或中間數據；

確定與所述待處理數據組中各待處理數據相匹配的模擬方式，所述模擬方式用于基于不同于待處理數據的數據類型的其他數據類型，表示待處理數據的數據類型；

根據所述各待處理數據相匹配的模擬方式對所述各待處理數據進行處理，生成所述各待處理數據對應的模擬數據，所述模擬數據通過所述其他數據類型表示；

對所述各待處理數據對應的模擬數據進行處理，得到數據處理結果，所述數據處理結果包括深度學習模型對圖像進行識別的最終結果或中間結果。

2.根據權利要求1所述的方法，其特征在于，所述各待處理數據的數據類型為FP32，所述模擬方式包括：FP32-F、FP32-B、FP32-T中的一個或多個，其中，所述FP32-F表示基于FP16類型數據模擬FP32類型數據的方式，所述FP32-B表示基于BF16類型數據模擬FP32類型數據的方式，所述FP32-T表示基于TF32類型數據模擬FP32類型數據的方式。

3.根據權利要求1或2所述的方法，其特征在于，所述各待處理數據的數據類型為FP32，所述各待處理數據相匹配的模擬方式包括FP32-F；所述各待處理數據對應的模擬數據包括FP16類型的第一數據及第二數據；

所述根據所述各待處理數據相匹配的模擬方式對所述各待處理數據進行處理，生成所述各待處理數據對應的模擬數據，包括：

將所述各待處理數據進行FP32類型到FP16類型的變換，得到所述各待處理數據對應的第一數據；

將所述第一數據進行FP16類型到FP32類型的變換，并計算各待處理數據與變換結果的第一差值；

對所述第一差值與第一預設系數的乘積，進行FP32類型到FP16類型的變換，得到所述各待處理數據對應的第二數據。

4.根據權利要求1或2所述的方法，其特征在于，所述各待處理數據的數據類型為FP32，所述各待處理數據相匹配的模擬方式包括FP32-T；所述各待處理數據對應的模擬數據包括TF32類型的第三數據及第四數據；

所述根據所述各待處理數據相匹配的模擬方式對所述各待處理數據進行處理，生成所述各待處理數據對應的模擬數據，包括：

將所述各待處理數據進行FP32類型到TF32類型的變換，得到所述各待處理數據對應的第三數據；

將所述各待處理數據與所述第三數據的差值，進行FP32類型到TF32類型的變換，得到所述各待處理數據對應的第四數據。

5.根據權利要求4所述的方法，其特征在于，所述將所述各待處理數據與所述第三數據的差值，進行FP32類型到TF32類型的變換，得到所述各待處理數據對應的第四數據，包括：

計算所述各待處理數據與所述第三數據的第二差值，并計算所述第二差值與第一預設系數的乘積；

對乘積結果進行FP32類型到FP16類型的變換，得到所述各待處理數據對應的第四數據。

6.根據權利要求1或2所述的方法，其特征在于，所述待處理數據的數據類型為FP32，所述各待處理數據相匹配的模擬方式包括FP32-B；所述各待處理數據對應的模擬數據包括BF16類型的第五數據、第六數據及第七數據；

所述根據所述各待處理數據相匹配的模擬方式對所述各待處理數據進行處理，生成所述各待處理數據對應的模擬數據，包括：

將所述各待處理數據進行FP32類型到BF16類型的變換，得到所述各待處理數據對應的第五數據；

將所述各待處理數據與所述第五數據的第三差值，進行FP32類型到BF16類型的變換，得到所述各待處理數據對應的第六數據；

對所述第三差值與所述第六數據的差值，進行FP32類型到BF16類型的變換，得到所述各待處理數據對應的第七數據。