[發明專利]神經網絡處理方法、計算機系統及存儲介質

有效

• 申請號: 201711487624.0
• 申請日: 2017-12-29
• 公開（公告）號: CN109993288B
• 公開（公告）日: 2020-04-28
• 發明（設計）人: 不公告發明人
• 申請（專利權）人: 中科寒武紀科技股份有限公司
• 主分類號: G06N3/063
• 分類號: G06N3/063;G06N3/08
• 代理公司: 北京華進京聯知識產權代理有限公司 11606
• 代理人: 王程

本發明提供了一種神經網絡的處理方法，上述方法包括如下步驟：獲取原始網絡的模型數據集及模型結構參數，其中，模型數據集包括原始網絡中各個計算節點對應的網絡權值，模型結構參數包括原始網絡中多個計算節點的連接關系及各個計算節點的計算屬性；根據原始網絡的模型數據集和模型結構參數運行原始網絡，獲得原始網絡中各個計算節點對應的指令；根據原始網絡的各個計算節點對應的網絡權值及指令，生成原始網絡對應的離線模型，并將原始網絡對應的離線模型存儲至非易失性存儲器中。本發明還提供了一種計算機系統及存儲介質。本發明的神經網絡處理方法、計算機系統及存儲介質，縮短處理器運行同一網絡的運行時間，提高處理器的處理速度及效率。

技術領域

本發明涉及深度學習技術領域，特別是涉及一種神經網絡處理方法、計算機系統及存儲介質。

背景技術

隨著人工智能技術的發展，如今深度學習已無處不在且必不可少，并隨之產生了許多可擴展的深度學習系統，例如，TensorFlow、MXNet、Caffe和PyTorch等等，上述深度學習系統可以用于提供各種能夠在CPU或GPU等處理器上運行的神經網絡模型。一般地，處理器在運行神經網絡模型時，如運行Caffe網絡模型時，每次均需要對該神經網絡模型中的各個計算節點分別進行編譯、解析，之后，按照該神經網絡模型的結構形式按照一定的形式執行各個計算節點。其中，神經網絡模型以及網絡結構可以是已訓練好或未訓練好的人工神經網絡模型數據。上述對神經網絡的處理方法會影響處理器的處理速度，處理效率較低。

發明內容

鑒于上述的網絡模型處理方法導致的處理效率低的問題，本發明的目的在于提供一種神經網絡處理方法、計算機系統及存儲介質，提高裝置對神經網絡的處理速度及處理效率。

為實現上述目的，本發明采用如下技術方案：

一種神經網絡的處理方法，所述方法包括如下步驟：

獲取原始網絡的模型數據集及模型結構參數，其中，所述模型數據集包括所述原始網絡中各個計算節點對應的網絡權值，所述模型結構參數包括所述原始網絡中多個計算節點的連接關系及各個計算節點的計算屬性；

根據所述原始網絡的模型數據集和模型結構參數運行所述原始網絡，獲得所述原始網絡中各個計算節點對應的指令；

根據所述原始網絡的各個計算節點對應的網絡權值及指令，生成所述原始網絡對應的離線模型，并將所述原始網絡對應的離線模型存儲至非易失性存儲器中。

在其中一個實施例中，所述的根據所述原始網絡的模型數據集和模型結構參數運行所述原始網絡，獲得所述原始網絡中各個計算節點對應的指令的步驟，包括：

根據所述原始網絡的模型結構參數，獲得所述原始網絡中各個計算節點的執行順序；

按照所述原始網絡中各個計算節點的執行順序運行所述原始網絡，分別獲得所述原始網絡中各個計算節點對應的指令。

在其中一個實施例中，所述的根據所述原始網絡的各個計算節點對應的網絡權值及指令，生成所述原始網絡對應的離線模型的步驟，包括：

根據所述原始網絡的模型數據集和模型結構參數，獲得所述原始網絡的內存分配方式；

根據所述原始網絡的內存分配方式，將所述原始網絡運行過程中的相關數據存儲至第一存儲器中，其中，所述原始網絡運行過程中的相關數據包括所述原始網絡的各個計算節點對應的網絡權值、指令、輸入數據及輸出數據；

從所述第一存儲器中獲取所述原始網絡的各個計算節點對應的網絡權值及指令，并將所述原始網絡的各個計算節點對應的網絡權值及指令存儲于第二存儲器中，生成所述離線模型，其中，所述第二存儲器為非易失性存儲器。

在其中一個實施例中，所述離線模型中還包括節點接口數據，所述節點接口數據用于表示所述原始網絡的各個計算節點的連接關系。