[發明專利]一種神經網絡裁剪方法、裝置、設備及存儲介質

在審

• 申請號: 202111305290.7
• 申請日: 2021-11-05
• 公開（公告）號: CN113962387A
• 公開（公告）日: 2022-01-21
• 發明（設計）人: 郭智豪;常歡;吳嘉嘉;謝名亮;殷兵
• 申請（專利權）人: 科大訊飛股份有限公司
• 主分類號: G06N3/08
• 分類號: G06N3/08
• 代理公司: 北京集佳知識產權代理有限公司 11227
• 代理人: 付麗

1.一種神經網絡裁剪方法，其特征在于，包括：

確定待裁剪神經網絡中待裁剪卷積核的卷積核參數間的相關性；

根據所述待裁剪卷積核的卷積核參數間的相關性，確定所述待裁剪卷積核對應的裁剪掩模；

根據所述待裁剪卷積核對應的裁剪掩模，對所述待裁剪卷積核的卷積核參數進行裁剪。

2.根據權利要求1所述的神經網絡裁剪方法，其特征在于，所述確定待裁剪神經網絡中待裁剪卷積核的參數間的相關性，包括：

通過對所述待裁剪卷積核的卷積核參數進行處理，確定所述待裁剪卷積核對應的自注意力矩陣，其中，所述待裁剪卷積核對應的自注意力矩陣能夠表征所述待裁剪卷積核的卷積核參數間的相關性。

3.根據權利要求2所述的神經網絡裁剪方法，其特征在于，所述通過對所述待裁剪卷積核的卷積核參數進行處理，確定所述待裁剪卷積核對應的自注意力矩陣，包括：

將所述待裁剪卷積核處理成二維矩陣，其中，所述二維矩陣的行數為所述待裁剪卷積核的通道數，所述二維矩陣的每一行為所述待裁剪卷積核的一個通道的卷積核參數；

對所述二維矩陣進行轉置，以得到所述二維矩陣的轉置矩陣；

用所述二維矩陣右乘所述二維矩陣的轉置矩陣，得到的矩陣作為所述待裁剪卷積核對應的自注意力矩陣。

4.根據權利要求2所述的神經網絡裁剪方法，其特征在于，所述根據所述待裁剪卷積核的卷積核參數間的相關性，確定所述待裁剪卷積核對應的裁剪掩模，包括：

將所述裁剪卷積核對應的自注意力矩陣處理成與所述待裁剪卷積核尺寸相同、且每個元素的取值均在預設范圍內的矩陣，作為所述待裁剪卷積核對應的裁剪掩模。

5.根據權利要求4所述的神經網絡裁剪方法，其特征在于，所述將所述裁剪卷積核對應的自注意力矩陣處理成與所述待裁剪卷積核尺寸相同、且每個元素的取值均在預設范圍內的矩陣，作為所述待裁剪卷積核對應的裁剪掩模，包括：

對所述待裁剪卷積核對應的自注意力矩陣，以列為單位進行歸一化處理，得到的矩陣作為第一歸一化矩陣；

對所述第一歸一化矩陣的每一行進行求和處理，得到求和后矩陣；

對所述求和后矩陣，以整個矩陣對單位進行歸一化處理，得到的矩陣作為第二歸一化矩陣；

將所述第二歸一化矩陣處理成與所述待裁剪卷積核尺寸相同的矩陣，作為所述待裁剪卷積核對應的裁剪掩模。

6.根據權利要求1所述的神經網絡裁剪方法，其特征在于，所述根據所述待裁剪卷積核對應的裁剪掩模，對所述待裁剪卷積核的卷積核參數進行裁剪，包括：

針對所述待裁剪卷積核對應的裁剪掩模中的每個元素，若該元素小于預設的裁剪閾值，則將所述待裁剪卷積核中與該元素對應的卷積核參數裁剪掉。

7.根據權利要求6所述的神經網絡裁剪方法，其特征在于，所述將所述待裁剪卷積核中與該元素對應的卷積核參數裁剪掉，包括：

將所述待裁剪卷積核中與該元素對應的卷積核參數置0。

8.根據權利要求1～7中任一項所述的神經網絡裁剪方法，其特征在于，所述確定待裁剪神經網絡中待裁剪卷積核的卷積核參數間的相關性，包括：

在所述待裁剪神經網絡的整個訓練過程中，或者，所述待裁剪神經網絡的整個訓練過程中的指定階段，所述待裁剪神經網絡每完成一次參數更新后，確定待裁剪神經網絡中待裁剪卷積核的卷積核參數間的相關性。

9.一種神經網絡裁剪裝置，其特征在于，包括：卷積核參數相關性確定模塊、裁剪掩模確定模塊和卷積核裁剪模塊；

所述卷積核參數相關性確定模塊，用于確定待裁剪神經網絡中待裁剪卷積核的卷積核參數間的相關性；

所述裁剪掩模確定模塊，用于根據所述待裁剪卷積核的卷積核參數間的相關性，確定所述待裁剪卷積核對應的裁剪掩模；

所述卷積核裁剪模塊，用于根據所述待裁剪卷積核對應的裁剪掩模，對所述待裁剪卷積核的卷積核參數進行裁剪。