[發明專利]網絡節點處理方法、裝置、存儲介質及電子設備

有效

• 申請號: 201910903008.1
• 申請日: 2019-09-24
• 公開（公告）號: CN110689114B
• 公開（公告）日: 2023-07-18
• 發明（設計）人: 譚志鵬;劉耀勇;蔣燚
• 申請（專利權）人: OPPO廣東移動通信有限公司
• 主分類號: G06N3/082
• 分類號: G06N3/082;G06N3/042;G06N5/04
• 代理公司: 北京恒博知識產權代理有限公司 11528
• 代理人: 范勝祥

本申請實施例公開了一種網絡節點處理方法、裝置、存儲介質及電子設備，方法包括：觸發采用神經網絡模型進行推理計算，確定至少一個網絡節點中目標網絡節點對應的第二計算處理單元；當第一計算處理單元與第二計算處理單元不同時，將目標網絡節點從第一鏈表中刪除并修改第一鏈表中目標網絡節點的上一個網絡節點以及下一個網絡節點的連接關系，將目標網絡節點分配至第二計算處理單元；獲取目標網絡節點的下一個網絡節點，將下一個網絡節點確定為目標網絡節點，并執行確定至少一個網絡節點中目標網絡節點對應的第二計算處理單元；當確定不存在下一個網絡節點時，生成推理計算結果。因此，采用本申請實施例，可以提高采用神經網絡模型推理計算的效率。

技術領域

本申請涉及計算機技術領域，尤其涉及一種網絡節點處理方法、裝置、存儲介質及電子設備。

背景技術

當今智能手機平臺上有很多適合移動端的神經網絡模型，通常需要使用合適的數據結構來表示神經網絡的各網絡節點。例如小米的MACE，騰訊的NCNN,阿里巴巴的MNN等，它們都是用容器來表示神經網絡的各網絡節點。

當觸發采用神經網絡模型推理計算時，需要根據手機當前各計算處理單元(如CPU,GPU,DSP)的空閑狀態，動態地決定各網絡節點運行在哪個計算處理單元上，此時，就需要對神經網絡模型的網絡結構進行修改，也就是需要將容器中的網絡節點刪除或者向容器中添加網絡節點。但每刪除或添加一個網絡節點到容器，都需要把容器中位于它之后的所有網絡節點進行移位操作，尤其當網絡節點數量較多時，每進行一次網絡結構調整，都需要耗費較長的時間，從而降低了采用神經網絡模型推理計算的效率。

發明內容

本申請實施例提供了一種網絡節點處理方法、裝置、存儲介質及電子設備，只需要修改該網絡節點的上一網絡節點以及下一網絡節點的連接關系，而不需要頻繁移位操作，節省了網絡結構調整時間，從而可以提高采用神經網絡模型推理計算的效率。所述技術方案如下：

第一方面，本申請實施例提供了一種網絡節點處理方法，所述方法包括：

觸發采用包括至少一個網絡節點的神經網絡模型進行推理計算，確定所述至少一個網絡節點中目標網絡節點對應的第二計算處理單元，所述至少一個網絡節點采用第一鏈表的形式預存在第一計算處理單元，所述目標網絡節點運行在所述第二計算處理單元；

當所述第一計算處理單元與所述第二計算處理單元不同時，將所述目標網絡節點從所述第一鏈表中刪除并修改所述第一鏈表中所述目標網絡節點的上一個網絡節點以及下一個網絡節點的連接關系，將所述目標網絡節點分配至所述第二計算處理單元；

獲取所述目標網絡節點的下一個網絡節點，將所述下一個網絡節點確定為目標網絡節點，并執行所述確定所述至少一個網絡節點中目標網絡節點對應的第二計算處理單元的步驟；

當確定不存在下一個網絡節點時，生成推理計算結果。

第二方面，本申請實施例提供了一種網絡節點處理裝置，所述裝置包括：

節點確定模塊，用于觸發采用包括至少一個網絡節點的神經網絡模型進行推理計算，確定所述至少一個網絡節點中目標網絡節點對應的第二計算處理單元，所述至少一個網絡節點采用第一鏈表的形式預存在第一計算處理單元，所述目標網絡節點運行在所述第二計算處理單元；

節點分配模塊，用于當所述第一計算處理單元與所述第二計算處理單元不同時，將所述目標網絡節點從所述第一鏈表中刪除并修改所述第一鏈表中所述目標網絡節點的上一個網絡節點以及下一個網絡節點的連接關系，將所述目標網絡節點分配至所述第二計算處理單元；

節點循環模塊，用于獲取所述目標網絡節點的下一個網絡節點，將所述下一個網絡節點確定為目標網絡節點，并執行所述確定所述至少一個網絡節點中目標網絡節點對應的第二計算處理單元的步驟；

結果生成模塊，用于當確定不存在下一個網絡節點時，生成推理計算結果。