[發明專利]優化神經網絡模型中原始維度算子的裝置和方法

在審

• 申請號: 202011449721.2
• 申請日: 2020-12-09
• 公開（公告）號: CN112465122A
• 公開（公告）日: 2021-03-09
• 發明（設計）人: 不公告發明人
• 申請（專利權）人: 安徽寒武紀信息科技有限公司
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/063;G06N5/04
• 代理公司: 北京維昊知識產權代理事務所(普通合伙) 11804
• 代理人: 李波;孫新國

1.一種優化神經網絡模型中原始維度算子的方法，包括：

遍歷所述神經網絡模型，以：

識別所述神經網絡模型的關鍵節點；

在所述關鍵節點處置入成對維度算子；

結合所述成對維度算子其中之一與所述原始維度算子；以及基于結合后的所述神經網絡模型進行推理。

2.根據權利要求1所述的方法，其中所述關鍵節點為輸入節點及輸出節點其中之一；如所述關鍵節點為所述輸入節點，所述置入步驟在所述輸入節點后置入成對維度算子；如所述關鍵節點為輸出節點，所述置入步驟在所述輸出節點前置入成對維度算子。

3.根據權利要求1所述的方法，其中所述關鍵節點為合并節點及分支節點其中之一，所述置入步驟在所述關鍵節點前后分別置入成對維度算子。

4.根據權利要求2或3所述的方法，其中所述神經網絡模型包括中間算子群，所述中間算子群介于所述成對維度算子與所述原始維度算子間，所述方法還包括：

判斷所述中間算子群是否對維度敏感；以及

如否，判斷所述成對維度算子其中之一與所述原始維度算子是否為成對維度算子：

如是，所述結合步驟自所述神經網絡模型中移除所述成對維度算子其中之一與所述原始維度算子；以及

如否，所述結合步驟合并所述成對維度算子其中之一與所述原始維度算子，以形成合并維度算子。

5.根據權利要求4所述的方法，還包括：

將所述成對維度算子其中之一與所述原始維度算子的其中之一替換成所述合并維度算子；以及

移除所述成對維度算子其中之一與所述原始維度算子中的另一個。

6.根據權利要求4所述的方法，其中所述中間算子群包括至少一個中間算子，所述判斷步驟包括：

遍歷所有中間算子，判斷所述中間算子是否為對特定維度計算的算子；以及

如否，互換所述成對維度算子其中之一與所述中間算子的順序。

7.根據權利要求6所述的方法，其中如所述中間算子為對特定維度計算的算子，則根據所述特定維度轉換所述成對維度算子其中之一的維度。

8.根據權利要求1所述的方法，其中所述維度算子為轉置算子及變形算子。

9.一種優化神經網絡模型中原始維度算子的處理裝置，包括：

識別模塊，用以識別所述神經網絡模型的關鍵節點；

置入模塊，用以在所述關鍵節點處置入成對維度算子；以及

結合模塊，用以結合所述成對維度算子其中之一與所述原始維度算子。

10.根據權利要求9所述的處理裝置，其中所述關鍵節點為輸入節點及輸出節點其中之一；如所述關鍵節點為所述輸入節點，所述置入模塊在所述輸入節點后置入成對維度算子；如所述關鍵節點為輸出節點，所述置入模塊在所述輸出節點前置入成對維度算子。

11.根據權利要求9所述的處理裝置，其中所述關鍵節點為合并節點及分支節點其中之一，所述置入模塊在所述關鍵節點前后分別置入成對維度算子。

12.根據權利要求10或11所述的處理裝置，其中所述神經網絡模型包括中間算子群，所述中間算子群介于所述成對維度算子與所述原始維度算子間，所述處理裝置還包括：

判斷模塊，用以：

判斷所述中間算子群是否對維度敏感；以及

如否，判斷所述成對維度算子其中之一與所述原始維度算子是否為成對維度算子；

如是，所述結合模塊自所述神經網絡模型中移除所述成對維度算子其中之一與所述原始維度算子；以及

如否，所述結合模塊合并所述成對維度算子其中之一與所述原始維度算子，以形成合并維度算子。