[發明專利]神經網絡運行方法、裝置、電子設備及存儲介質

在審

• 申請號: 202011619783.3
• 申請日: 2020-12-31
• 公開（公告）號: CN112668701A
• 公開（公告）日: 2021-04-16
• 發明（設計）人: 徐磊
• 申請（專利權）人: 上海商湯智能科技有限公司
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/063;G06N3/08
• 代理公司: 北京中知恒瑞知識產權代理事務所(普通合伙) 11889
• 代理人: 吳迪

1.一種神經網絡運行方法，其特征在于，包括：

確定目標神經網絡中的待處理網絡層；

從確定的多個算子和多種分塊策略中，確定所述目標神經網絡中所述待處理網絡層對應的目標算子和目標分塊策略；所述多個算子中的每個算子均用于實現所述待處理網絡層對應的功能，所述多種分塊策略中的每個分塊策略均匹配用于運行所述目標神經網絡的計算設備的運行要求；

基于所述待處理網絡層對應的所述目標分塊策略，運行包含所述目標算子的所述目標神經網絡。

2.根據權利要求1所述的方法，其特征在于，所述分塊策略用于對所述待處理網絡層對應的目標算子的參數數據進行分塊；

在所述多種分塊策略中，基于采用所述目標分塊策略對所述目標算子的參數數據進行分塊得到的參數數據，運行所述待處理網絡層的資源消耗最小。

3.根據權利要求1或2所述的方法，其特征在于，在所述待處理網絡層為多個的情況下，所述從確定的多個算子和多種分塊策略中，確定所述目標神經網絡中待處理網絡層對應的目標算子和目標分塊策略，包括：

針對所述目標神經網絡中的每個待處理網絡層，從所述多個算子中確定所述待處理網絡層對應目標候選算子、并從所述多種分塊策略中確定與所述目標候選算子匹配的目標候選分塊策略；

在存在任一待處理網絡層對應的所述目標候選算子為多個和/或所述目標候選分塊策略為多個的情況下，基于各個待處理網絡層分別對應的目標候選算子和目標候選分塊策略，確定每個待處理網絡層對應的所述目標算子和所述目標分塊策略。

4.根據權利要求3所述的方法，其特征在于，所述基于各個待處理網絡層分別對應的目標候選算子和目標候選分塊策略，確定每個待處理網絡層對應的所述目標算子和所述目標分塊策略，包括：

基于各個待處理網絡層分別對應的目標候選算子、和與所述目標候選算子對應的目標候選分塊策略，確定所述目標神經網絡對應的多個測試網絡；其中，每個測試網絡中包括各個所述待處理網絡層對應的一個所述目標候選算子、和與該目標候選算子匹配的一個目標候選分塊策略；

分別運行所述多個測試網絡，得到多個測試結果，其中，每個測試網絡對應一個測試結果；

基于所述多個測試結果，從所述多個測試網絡中選取目標測試網絡；

將所述目標測試網絡中所述待處理網絡層的目標候選算子和目標候選分塊策略，確定為所述目標神經網絡中所述待處理網絡層對應的所述目標算子和目標分塊策略。

5.根據權利要求3或4所述的方法，其特征在于，所述針對所述目標神經網絡中的每個待處理網絡層，從所述多個算子中確定所述待處理網絡層對應目標候選算子、并從所述多種分塊策略中確定與所述目標候選算子匹配的目標候選分塊策略，包括：

針對所述待處理網絡層，從所述多個算子中，確定一個或多個第一候選算子；

基于所述第一候選算子在所述多種分塊策略中的每種分塊策略下的資源消耗情況，從所述第一候選算子、和所述多種分塊策略中，選擇所述待處理網絡層對應的一個或多個目標候選算子、以及與所述目標候選算子對應的目標候選分塊策略。