[發明專利]基于張量數據計算推理的編譯器優化方法、裝置及設備

在審

• 申請號: 202211000908.3
• 申請日: 2022-08-19
• 公開（公告）號: CN115423089A
• 公開（公告）日: 2022-12-02
• 發明（設計）人: 姜漢;王臣漢;潘相瑜;呂天蕾;王巖鑫
• 申請（專利權）人: 貝式計算（天津）信息技術有限公司
• 主分類號: G06N3/08
• 分類號: G06N3/08;G06N3/04;G06N5/04
• 代理公司: 深圳市世紀恒程知識產權代理事務所 44287
• 代理人: 羅敏

1.一種基于張量數據計算推理的編譯器優化方法，其特征在于，所述基于張量數據計算推理的編譯器優化方法包括以下步驟：

獲取待優化編譯器的設計結構信息，根據所述設計結構信息得到目標中間轉換層和目標中間轉換層執行操作；

根據所述目標中間轉換層設定目標調參學習參數；

根據所述目標中間轉換層執行操作確定待優化編譯器對象；

通過目標自動調參策略根據所述目標調參學習參數對所述待優化編譯器對象進行調參優化。

2.如權利要求1所述的基于張量數據計算推理的編譯器優化方法，其特征在于，所述獲取待優化編譯器的設計結構信息，根據所述設計結構信息得到目標中間轉換層和目標中間轉換層執行操作，包括：

獲取待優化編譯器的設計結構信息，根據所述設計結構信息得到對應的分層集合；

根據分層特性在所述分層集合中選取目標中間轉換層；

根據所述目標中間轉換層獲取由目標統一格式中間表示元生成目標自解碼的流程；

根據所述由目標統一格式中間表示元生成目標自解碼的流程得到目標中間轉換層執行操作。

3.如權利要求1所述的基于張量數據計算推理的編譯器優化方法，其特征在于，所述目標調參學習參數至少包括調參學習類型、目標學習對象以及目標調參次數；

所述根據所述目標中間轉換層設定目標調參學習參數，包括：

獲取生成目標自解碼的數據交換次數和數據分解性能；

根據所述數據交換次數和所述數據分解性能設定調參學習類型和目標學習對象；

根據所述中間轉換層得到參數設定的目標范圍，并根據所述目標范圍得到參數設定最大值和參數設定最小值；

根據所述參數設定最大值和所述參數設定最小值設定目標調參次數。

4.如權利要求1所述的基于張量數據計算推理的編譯器優化方法，其特征在于，所述根據所述目標中間轉換層執行操作確定待優化編譯器對象，包括：

根據所述中間轉換層執行操作得到目標中間層的執行節點；

獲取設置在所述目標中間層的各層的數據優化策略；

根據所述執行節點和所述各層的數據優化策略確定各層所需執行的目標操作；

根據所述各層所需執行的目標操作得到待優化編譯器對象。

5.如權利要求4所述的基于張量數據計算推理的編譯器優化方法，其特征在于，所述根據所述各層所需執行的目標操作得到待優化編譯器對象，包括：

根據所述各層所需執行的目標操作獲取指定輸入模型的計算圖；

根據所述指定輸入模型的計算圖得到各個操作的內存加載數據；

根據所述內存加載數據得到多層操作交互數據；

將所述多層操作交互數據的多層操作作為待優化編譯器對象。

6.如權利要求4所述的基于張量數據計算推理的編譯器優化方法，其特征在于，所述根據所述各層所需執行的目標操作得到待優化編譯器對象，包括：

根據所述各層所需執行的目標操作獲取待處理統一格式中間表示元；

根據所述待處理統一格式中間表示元構建目標特征矩陣；

根據所述目標特征矩陣得到矩陣計算時長和矩陣計算占用資源；

在所述矩陣計算時長大于預設時長閾值和/或所述矩陣計算占用資源大于預設存儲資源閾值時，將所述矩陣計算時長和所述矩陣計算占用資源作為待優化編譯器對象。

7.如權利要求1至6中任一項所述的基于張量數據計算推理的編譯器優化方法，其特征在于，所述通過目標自動調參策略根據所述目標調參學習參數對所述待優化編譯器對象進行調參優化之后，還包括：

根據所述待優化編譯器對象設定對應的初始優化策略；

根據所述目標調參學習參數對所述初始優化策略進行調整；

根據調整后的初始優化策略得到參數優化范圍；

通過所述目標自動化調參策略在所述參數優化范圍對所述待優化編譯器對象進行調參優化，得到與指定輸入模型相契合的編譯器。