[發明專利]對編譯過程中的向量化進行優化的方法、裝置及電子設備

在審

• 申請號: 202110209259.7
• 申請日: 2021-02-24
• 公開（公告）號: CN112947932A
• 公開（公告）日: 2021-06-11
• 發明（設計）人: 穆沛;李秀紅;顏深根
• 申請（專利權）人: 上海商湯智能科技有限公司
• 主分類號: G06F8/41
• 分類號: G06F8/41;G06F9/50
• 代理公司: 北京博思佳知識產權代理有限公司 11415
• 代理人: 靳玫

1.一種對編譯過程中的向量化進行優化的方法，其特征在于，所述方法包括：

獲取目標芯片的硬件參數信息，所述硬件參數信息用于表征所述目標芯片的計算能力；

根據預設的且與所述硬件參數信息對應的優化策略集，確定所述目標芯片的向量化參數的參數值；

基于所述向量化參數的參數值，將所述目標芯片待執行的指令向量化，得到向量化指令。

2.根據權利要求1所述的方法，其特征在于，所述硬件參數信息至少包括以下之一：所述目標芯片的體系結構、所述目標芯片的計算核數量、單個所述計算核的計算能力，其中，所述體系結構包括所述目標芯片的內存模型結構以及所述目標芯片的計算核并行結構。

3.根據權利要求1或2所述的方法，其特征在于，獲取目標芯片的硬件參數信息，包括：

基于預先設置的硬件參數配置表確定所述目標芯片的硬件參數信息，所述硬件參數配置表記錄有不同型號的芯片對應的硬件參數；或

調用預先配置的硬件參數查詢接口獲取所述目標芯片的硬件參數信息；或

獲取用戶通過所述目標芯片的硬件參數配置接口配置的硬件參數信息。

4.根據權利要求1-3任一項所述的方法，其特征在于，所述向量化參數包括以下一種或多種：

所述目標芯片執行所述向量化指令所采用的并行計算方式，所述并行計算方式包括數據級并行優先的方式或線程級并行優先的方式；

所述向量化指令對應的計算數據占用的所述目標芯片各層級內存的大小；

所述目標芯片的計算核的并行度；

單條所述向量化指令對應的計算數據量。

5.根據權利要求1-4任一項所述的方法，其特征在于，所述優化策略集包括以下一種或多種優化策略：

第一優化策略，用于基于所述目標芯片的體系結構，確定所述目標芯片執行所述向量化指令所采用的并行計算方式，所述并行計算方式包括數據級并行優先的方式或線程級并行優先的方式；

第二優化策略，用于基于所述目標芯片的各級內存的大小，確定為所述向量化指令對應的計算數據分配的所述芯片各層級內存的大小，其中，越靠近所述目標芯片的計算核的內存越優先分配；

第三優化策略，用于根據所述目標芯片計算核的數量以及所述目標芯片計算核的計算能力，確定對所述待執行指令向量化時所述目標芯片的計算核的并行度；

第四優化策略，用于根據所述目標芯片的單個計算核的計算能力，確定單條所述向量化指令對應的計算數據量。

6.根據權利要求1-5任一項所述的方法，其特征在于，根據預設的且與所述硬件參數信息對應的優化策略集，確定所述目標芯片的向量化參數的參數值，包括：

基于所述硬件參數信息和所述優化策略集確定所述向量化參數的初始值；

基于所述初始值不斷調整所述向量化參數，直至所述目標芯片執行所述向量化指令耗時最小，以得到所述向量化參數的參數值。

7.根據權利要求6所述的方法，其特征在于，不斷調整所述初始值的大小，直至所述目標芯片執行所述向量化指令耗時最小，以得到所述向量化參數的參數值，包括：

基于所述初始值單獨調整每個向量化參數的數值，直至所述目標芯片執行所述向量化指令耗時最小，以得到每個向量化參數的參數值；或

基于所述初始值同時調整所有向量化參數的數值，直至所述目標芯片執行所述向量化指令耗時最小，以得到每個向量化參數的參數值。

8.根據權利要求1-5任一項所述的方法，其特征在于，根據預設的且與所述硬件參數信息對應的優化策略集，確定所述目標芯片的向量化參數的參數值，包括：

根據所述優化策略集確定一個或多個與所述向量化參數相關的條件函數；

對所述條件函數進行求解，得到所述向量化參數的參數值。

9.根據權利要求1-8任一項所述的方法，其特征在于，所述方法還包括：

基于所述向量化指令對應的計算數據的依賴關系，對所述計算數據進行以下一種或多種操作：循環拆分、循環整合和循環移位。