[發明專利]神經網絡處理方法、計算機系統及存儲介質

有效

• 申請號: 202010364385.5
• 申請日: 2017-12-29
• 公開（公告）號: CN111582464B
• 公開（公告）日: 2023-09-29
• 發明（設計）人: 請求不公布姓名
• 申請（專利權）人: 中科寒武紀科技股份有限公司
• 主分類號: G06N3/063
• 分類號: G06N3/063;G06N3/0464;G06N3/08;G06N20/00
• 代理公司: 暫無信息
• 代理人: 暫無信息

1.一種神經網絡的處理方法，其特征在于，所述方法包括如下步驟：

獲取原始神經網絡模型；

編譯所述原始神經網絡模型，獲得所述原始神經網絡模型中各個計算節點對應的指令；

將所述原始神經網絡模型的計算節點對應的網絡權值及編譯后的指令存儲至存儲器中，獲得所述原始神經網絡模型對應的離線模型，所述離線模型能夠直接被處理器執行；其中，所述離線模型包含所述原始神經網絡模型中計算節點對應的網絡權值及指令。

2.根據權利要求1所述的方法，其特征在于，獲取原始神經網絡模型，包括：

獲取所述原始神經網絡模型的模型數據集和模型結構參數以獲得所述原始神經網絡模型，其中，所述模型數據集包括所述原始網絡中各個計算節點對應的網絡權值，所述模型結構參數包括所述原始網絡中多個計算節點的連接關系。

3.根據權利要求2所述的方法，其特征在于，所述的編譯所述原始神經網絡模型，獲得所述原始神經網絡模型中計算節點對應的指令，包括：

根據所述原始神經網絡模型的模型結構參數，獲得所述原始神經網絡模型中各個計算節點的執行順序；

按照所述原始神經網絡模型中各個計算節點的執行順序，編譯所述原始神經網絡模型，獲得所述原始神經網絡模型中各個計算節點對應的指令。

4.根據權利要求2或3所述的方法，其特征在于，所述的將所述原始神經網絡模型的計算節點對應的網絡權值及指令存儲至存儲器中，獲得所述原始神經網絡模型對應的離線模型，包括：

根據所述原始神經網絡模型的模型數據集和模型結構參數，獲得所述原始神經網絡模型的內存分配方式；

根據所述原始神經網絡模型的內存分配方式，將所述原始神經網絡模型運行過程中的相關數據存儲至第一存儲器中，其中，所述原始神經網絡模型運行過程中的相關數據包括所述原始神經網絡模型的計算節點對應的網絡權值、指令、輸入數據及輸出數據；

從所述第一存儲器中獲取所述原始神經網絡模型的計算節點對應的網絡權值及指令，并將所述原始神經網絡模型的計算節點對應的網絡權值及指令存儲于外部存儲器，獲得所述原始神經網絡模型對應的離線模型。

5.根據權利要求4所述的方法，其特征在于，所述外部存儲器為非易失性存儲器。

6.根據權利要求1所述的方法，其特征在于，所述方法應用于包含神經網絡處理器的計算機系統中；

所述離線模型包括能夠被所述神經網絡處理器直接運行的第一離線模型，所述第一離線模型包含所述原始神經網絡模型中具有第一操作屬性的計算節點對應的網絡權值和指令。

7.根據權利要求6所述的方法，其特征在于，所述離線模型還包括能夠被所述計算機系統中的通用處理器直接運行的第二離線模型，所述第二離線模型包含所述原始神經網絡模型中具有第二操作屬性的計算節點對應的網絡權值和指令；

進一步地，所述第二離線模型包括至少一個第二離線子模型，每個所述第二離線子模型與第二處理器上的執行的計算節點的操作屬性的類型相一致。

8.根據權利要求6所述的方法，其特征在于，所述離線模型中還包括節點接口數據，所述節點接口數據用于表示所述原始網絡的各個計算節點的連接關系。

9.根據權利要求1所述的方法，其特征在于，所述方法還包括如下步驟：

獲取新的原始神經網絡模型；

若所述新的原始神經網絡模型存在對應的離線模型時，則從所述存儲器中獲取所述新的原始神經網絡模型對應的離線模型，并根據所述新的原始神經網絡模型對應的離線模型運行所述新的原始神經網絡模型；

若所述新的原始神經網絡模型不存在對應的離線模型，則編譯所述新的原始神經網絡模型，生成所述新的原始神經網絡模型對應的離線模型，并將所述新的原始神經網絡模型對應的離線模型存儲至存儲器中。