[發明專利]向量化編譯程序的芯片適配方法、裝置、設備及介質

有效

• 申請號: 202310060092.1
• 申請日: 2023-01-17
• 公開（公告）號: CN115951936B
• 公開（公告）日: 2023-05-26
• 發明（設計）人: 胡正平;官孝峰;周浩;許志鵬
• 申請（專利權）人: 上海燧原科技有限公司
• 主分類號: G06F9/30
• 分類號: G06F9/30
• 代理公司: 北京品源專利代理有限公司 11332
• 代理人: 孔凡紅

1.一種向量化編譯程序的芯片適配方法，其特征在于，包括：

獲取待加載至人工智能AI芯片中運行的標量程序，并生成與標量程序匹配的向量化編譯程序，其中，不同向量數據類型的向量操作數比較計算的向量條件狀態碼VCC，在AI芯片中具有不同的底層硬件寄存器存儲格式；

在向量化編譯程序中，識別至少一個VCC關聯程序段；

獲取與各VCC關聯程序段對應的標準化向量數據類型，并按照標準化向量數據類型，在各所述VCC關聯程序段中加入向量數據類型轉換指令，得到與AI芯片相適配的向量化編譯適配程序。

2.根據權利要求1所述的方法，其特征在于，在向量化編譯程序中，識別至少一個VCC關聯程序段，包括：

在所述向量化編譯程序中，識別至少一個for循環語句標識符；

獲取每個for循環語句標識符所限定的代碼段，分別作為所述VCC關聯程序段。

3.根據權利要求1所述的方法，其特征在于，獲取與VCC關聯程序段對應的標準化向量數據類型，包括：

計算當前VCC關聯程序段在各備選向量數據類型下的代價值；

獲取與最小代價值對應的備選向量數據類型，作為與當前VCC關聯程序段對應的標準化向量數據類型。

4.根據權利要求3所述的方法，其特征在于，計算當前VCC關聯程序段在備選向量數據類型下的代價值，包括：

獲取與當前VCC關聯程序段匹配的當前數據依賴圖；

遍歷當前數據依賴圖中的各向量計算指令，確定將當前數據依賴圖與當前備選向量數據類型相適配時，需要額外增加的當前向量數據類型轉換指令；

根據各當前向量數據類型轉換指令，計算當前VCC關聯程序段在當前備選向量數據類型下的代價值。

5.根據權利要求4所述的方法，其特征在于，根據各所述當前向量數據類型轉換指令，計算當前VCC關聯程序段在當前備選向量數據類型下的代價值，包括：

獲取各所述當前向量數據類型轉換指令的指令總數量，以及各所述當前向量數據類型轉換指令的指令總開銷；

根據所述指令總數量和所述指令總開銷，計算當前VCC關聯程序段在當前備選向量數據類型下的代價值。

6.根據權利要求3-5中任一項所述的方法，其特征在于，按照標準化向量數據類型，在所述VCC關聯程序段中加入向量數據類型轉換指令，包括：

在與當前VCC關聯程序段匹配的當前數據依賴圖中，識別用于直接生成VCC的第一向量指令；

通過將各第一向量指令的輸入向量數據類型與標準化向量數據類型進行比對，在當前數據依賴圖中插入第一類向量數據類型轉換指令；

在當前數據依賴圖中，識別第二向量指令；

其中，所述第二向量指令的輸入向量操作數包含向量布爾值以及其他向量操作類型的操作數；

通過將第二向量指令的輸入向量數據類型和輸出向量數據類型分別與所述標準化向量數據類型進行比對，在當前數據依賴圖中插入第二類向量數據類型轉換指令。

7.根據權利要求6所述的方法，其特征在于，通過將第一向量指令的輸入向量數據類型與標準化向量數據類型進行比對，在當前數據依賴圖中插入第一類向量數據類型轉換指令，包括：

獲取當前第一向量指令的當前第一輸入向量數據類型；

如果當前第一輸入數據類型與標準化向量數據類型不匹配，則在當前第一向量指令的每個輸入端中，加入將當前第一輸入向量數據類型轉換為標準化向量數據類型的第一類向量數據類型轉換指令。