[發明專利]神經網絡處理方法、計算機系統及存儲介質

有效

• 申請號: 201711483733.5
• 申請日: 2017-12-29
• 公開（公告）號: CN109993287B
• 公開（公告）日: 2019-12-06
• 發明（設計）人: 不公告發明人
• 申請（專利權）人: 北京中科寒武紀科技有限公司
• 主分類號: G06N3/063
• 分類號: G06N3/063
• 代理公司: 11606 北京華進京聯知識產權代理有限公司
• 代理人: 王程<國際申請>=<國際公布>=<進入國

本發明提供了一種神經網絡的處理方法，上述方法包括如下步驟：獲取原始網絡的模型數據集和模型結構參數；獲取原始網絡中各個計算節點的操作屬性；根據原始網絡的模型數據集、模型結構參數及各個計算節點的操作屬性運行原始網絡，獲得原始網絡中各個計算節點對應的指令；若當前計算節點的操作屬性為第一操作屬性時，則將當前計算節點對應的網絡權值及指令存儲至第一非易失性存儲器中，以獲得原始網絡對應的第一離線模型本發明還提供了一種計算機系統及存儲介質。本發明的神經網絡處理方法、計算機系統及存儲介質，縮短處理器運行同一網絡的運行時間，提高處理器的處理速度及效率。

技術領域

本發明涉及深度學習技術領域，特別是涉及一種神經網絡處理方法、計算機系統及存儲介質。

背景技術

隨著人工智能技術的發展，如今深度學習已無處不在且必不可少，并隨之產生了許多可擴展的深度學習系統，例如，TensorFlow、MXNet、Caffe和PyTorch等等，上述深度學習系統可以用于提供各種能夠在CPU或GPU等處理器上運行的神經網絡模型。一般地，處理器在運行神經網絡模型時，如運行Caffe網絡模型時，每次均需要對該神經網絡模型中的各個計算節點分別進行編譯、解析，之后，按照該神經網絡模型的結構形式按照一定的形式執行各個計算節點。其中，神經網絡模型以及網絡結構可以是已訓練好或未訓練好的人工神經網絡模型數據。上述對神經網絡的處理方法會影響處理器的處理速度，處理效率較低。

發明內容

鑒于上述的網絡模型處理方法導致的處理效率低的問題，本發明的目的在于提供一種神經網絡處理方法、計算機系統及存儲介質，提高裝置對神經網絡的處理速度及處理效率。

為實現上述目的，本發明采用如下技術方案：

一種神經網絡的處理方法，所述方法包括如下步驟：

獲取原始網絡的模型數據集和模型結構參數，其中，所述模型數據集包括所述原始網絡中各個計算節點對應的網絡權值，所述模型結構參數包括所述原始網絡中多個計算節點的連接關系；

獲取所述原始網絡中各個計算節點的操作屬性，所述計算節點的操作屬性包括用于表示所述計算節點能夠在專用神經網絡處理器上執行的第一操作屬性和用于表示所述計算節點能夠在通用處理器上執行的第二操作屬性；

根據所述原始網絡的模型數據集、模型結構參數及各個計算節點的操作屬性運行所述原始網絡，獲得所述原始網絡中各個計算節點對應的指令；

若當前計算節點的操作屬性為第一操作屬性時，則將所述當前計算節點對應的網絡權值及指令存儲至第一非易失性存儲器中，以獲得所述原始網絡對應的第一離線模型。

同時，本發明還提供了一種神經網絡處理方法，所述方法包括如下步驟：

獲取原始網絡的模型數據集和模型結構參數，其中，所述模型數據集包括所述原始網絡中各個計算節點對應的網絡權值，所述模型結構參數包括所述原始網絡中多個計算節點的連接關系；

根據所述原始網絡中多個計算節點的連接關系，將兩個以上順序執行的第二計算節點之間的所有第一計算節點等效為一個第一離線節點，獲得所述原始網絡對應的等效網絡；其中，所述第一計算節點為具有第一操作屬性的計算節點，所述第二計算節點為具有第二操作屬性的計算節點；

若所述等效網絡結構中的當前計算節點為第一離線節點時，則從第一非易失性存儲介質中獲得第一離線模型，并根據所述第一離線模型執行所述第一離線節點，其中，所述第一離線模型中包含所述原始網絡中所有的第一計算節點對應的網絡權值及指令。

同時，本發明還提供了一種計算機系統，包括：

第一處理器及與所述第一處理器對應設置的第一存儲器及第二存儲器；

一個或多個第二處理器及與所述第二處理器對應設置的一個或多個第三存儲器，各個所述第二處理器均連接至所述第一處理器；