[發明專利]一種在CANN計算構架下自動優化晟騰AI處理器性能及精度的方法

在審

• 申請號: 202210854068.0
• 申請日: 2022-07-13
• 公開（公告）號: CN115409165A
• 公開（公告）日: 2022-11-29
• 發明（設計）人: 孫亞楠;梁子軒;宋孝天;歐玉威;馮雨麒
• 申請（專利權）人: 四川大學
• 主分類號: G06N3/063
• 分類號: G06N3/063;G06N3/04;G06N3/08
• 代理公司: 成都時譽知識產權代理事務所(普通合伙) 51250
• 代理人: 李雙

1.一種在CANN計算構架下自動優化晟騰AI處理器性能及精度的方法，其特征在于，包括如下步驟:

步驟一，獲取神經網絡中所有的算子，根據算子的數據類型進行二進制編碼；

步驟二，初始化候選解種群，生成預設數量的候選解；

步驟三，適應度評估，以生成的候選解設置進行神經網絡的訓練，得到性能數據，若候選解個體的性能數據以及溢出數據都滿足預設的閾值，則將其性能數據的倒數作為其適應度；

步驟四，選擇候選解進行交叉、變異以生成下一代種群；

步驟五，判斷是否滿足預設的中止條件，若滿足，輸出最佳方案，根據最佳方案對昇騰AI處理器性能及精度進行優化；若不滿足，返回步驟三。

2.根據權利要求1所述的一種在CANN計算構架下自動優化晟騰AI處理器性能及精度的方法，其特征在于，所述的初始化候選解種群，生成預設數量的候選解，包括如下過程：

S1，開啟CANN的自動混合精度并使能損失縮放功能，對神經網絡中所有算子的算子數據類型設置進行二進制編碼，生成一個初始個體；

S2，在該初始候選解的每個位置上以預設的概率進行變換以生成新的候選解；

S3，重復S2直到生成的候選解數量達到預設要求。

3.根據權利要求2所述的一種在CANN計算構架下自動優化晟騰AI處理器性能及精度的方法，其特征在于，所述的適應度評估，以生成的候選解設置進行神經網絡的訓練，得到性能數據，若候選解個體的性能數據以及溢出數據都滿足預設的閾值，則將其性能數據的倒數作為其適應度，包括如下過程：

S1、首先以該候選解設置進行神經網絡的訓練，得到性能數據；

S2、若性能不達標則直接將該候選解個體的適應度設置為負，適應度為負的候選解會在選擇過程中被篩除；

若性能達標則檢測其溢出數據，若出現連續的溢出數據則說明當前候選解個體對應的算子數據類型設置不合適，將第一個出現溢出數據的算子類型設置為float32,再返回S1重新檢測性能數據；

S3、若候選解個體的性能數據以及溢出數據都滿足預設的閾值，則將候選解個體的性能數據的倒數作為候選解個體的適應度。

4.根據權利要求3所述的一種在CANN計算構架下自動優化晟騰AI處理器性能及精度的方法，其特征在于，所述的選擇候選解進行交叉、變異以生成下一代種群，包括如下過程：

在獲得當前候選解種群的適應度之后，首先進行候選解個體的選擇過程，根據種群中個體的適應度大小，將適應度高的設定數量的候選解個體從當前種群中選擇出來放入下一代種群，使用這些候選解作為父母個體進行交叉、變異操作以生成設定數量的新的子代個體放入下一代種群。

5.根據權利要求4所述的一種在CANN計算構架下自動優化晟騰AI處理器性能及精度的方法，其特征在于，所述的使用這些候選解作為父母個體進行交叉操作，包括如下過程：

1)先讓父母個體隨機配對；

2)隨機設定交叉點的位置；

3)互換配對的父母個體的二進制編碼交叉點間的編碼片段。

6.根據權利要求4所述的一種在CANN計算構架下自動優化晟騰AI處理器性能及精度的方法，其特征在于，所述的變異操作包括：

1)隨機產生變異點；

2)根據變異概率將變異點的原有編碼片段取反。

7.根據權利要求6所述的一種在CANN計算構架下自動優化晟騰AI處理器性能及精度的方法，其特征在于，所述的中止條件為：迭代次數達到設定次數2、選擇種群中適應度最高的幾個候選解對應的設置進行完整的神經網絡訓練，獲得完整的性能及精度數據，性能及精度同時達標，則中止算法，輸出該候選解完成性能及精度的調優。