[發明專利]神經網絡的優化方法、裝置、存儲介質及芯片

在審

• 申請號: 202310903079.8
• 申請日: 2023-07-21
• 公開（公告）號: CN116629320A
• 公開（公告）日: 2023-08-22
• 發明（設計）人: 丁維浩;唐劍;張法朝;牟小峰;趙東宇;夏立超
• 申請（專利權）人: 美智縱橫科技有限責任公司
• 主分類號: G06N3/0464
• 分類號: G06N3/0464;G06N3/08;G06F17/16
• 代理公司: 北京友聯知識產權代理事務所(普通合伙) 11343
• 代理人: 王丹玉;汪海屏

1.一種神經網絡的優化方法，其特征在于，包括：

提取所述神經網絡中的卷積層，對所述卷積層中卷積核的數據結構進行轉換，得到目標卷積核；

對所述卷積層的輸入特征按照目標維度進行切片處理，得到多個切片特征；

將一個所述切片特征和所述目標卷積核輸入至矩陣乘法模塊，生成與所述切片特征對應的中間特征；

根據多個所述中間特征，生成輸出特征。

2.根據權利要求1所述的神經網絡的優化方法，其特征在于，所述卷積層的輸入特征按照目標維度進行切片處理，得到多個切片特征，包括：

將所述輸入特征的數據結構轉換為與所述矩陣乘法模塊的模塊參數對應的第一目標數據結構，生成第一中間輸入特征；

利用第一預設算法，將所述第一中間輸入特征的第一維度和第二維度相結合為所述目標維度，生成第二中間輸入特征；

按照所述目標維度對所述第二中間輸入特征進行切片處理，得到所述多個切片特征；

其中，所述第一維度為所述第一中間輸入特征的高度，所述第二維度為所述第一中間輸入特征的寬度。

3.根據權利要求2所述的神經網絡的優化方法，其特征在于，所述按照所述目標維度對所述第二中間輸入特征進行切片處理，得到所述多個切片特征之后，所述神經網絡的優化方法還包括：

獲取所述目標卷積核的卷積核參數；

根據所述卷積核參數，對所述切片特征的數據結構進行重排。

4.根據權利要求2所述的神經網絡的優化方法，其特征在于，所述按照所述目標維度對所述第二中間輸入特征進行切片處理，得到所述多個切片特征之后，所述神經網絡的優化方法還包括：

根據所述切片特征的第三維度，對所述切片特征的數據結構進行調整；

其中，所述第三維度為所述切片特征的輸出通道維度。

5.根據權利要求4所述的神經網絡的優化方法，其特征在于，所述根據所述切片特征的第三維度，對所述切片特征的數據結構進行調整，包括：

在所述輸出通道的數量能夠被預設值整除的情況下，保持所述輸出通道的數量；

在所述輸出通道的數量不能被預設值整除的情況下，增加所述輸出通道，以使所述輸出通道的數量能被預設值整除；

其中，增加的所述輸出通道中的其他維度的數據均設置為0。

6.根據權利要求2所述的神經網絡的優化方法，其特征在于，所述根據多個所述中間特征，生成輸出特征，包括：

根據所述第一維度和所述第二維度，將多個所述中間特征進行拼接，生成所述輸出特征。

7.根據權利要求1至6中任一項所述的神經網絡的優化方法，其特征在于，所述根據多個所述中間特征，生成輸出特征之前，所述神經網絡的優化方法還包括：

將所述中間特征的數據結構轉換為與所述輸入特征的數據結構相同的數據結構。

8.一種神經網絡的優化裝置，其特征在于，包括：

轉換單元，用于提取所述神經網絡中的卷積層，對所述卷積層中卷積核的數據結構進行轉換，得到目標卷積核；

處理單元，用于對所述卷積層的輸入特征按照目標維度進行切片處理，得到多個切片特征；

生成單元，用于將一個所述切片特征和所述目標卷積核輸入至矩陣乘法模塊，生成與所述切片特征對應的中間特征；以及

根據多個所述中間特征，生成輸出特征。

9.一種數據處理方法，其特征在于，包括：

獲取待處理數據；

基于如權利要求1至7中任一項所述的神經網絡的優化方法得到的神經網絡對所述待處理數據進行處理，得到處理結果。

10.一種RISCV設備，所述RISCV設備支持RISC-V?Vector擴展指令集，其特征在于，所述RISCV設備上部署有基于如權利要求1至7中任一項所述的神經網絡的優化方法得到的神經網絡。