[發明專利]神經網絡的運行方法、裝置、系統及存儲介質

在審

• 申請號: 201810145217.X
• 申請日: 2018-02-12
• 公開（公告）號: CN108875920A
• 公開（公告）日: 2018-11-23
• 發明（設計）人: 郭嘉丞;梁喆
• 申請（專利權）人: 北京曠視科技有限公司
• 主分類號: G06N3/06
• 分類號: G06N3/06
• 代理公司: 北京睿邦知識產權代理事務所(普通合伙) 11481
• 代理人: 徐丁峰;張瑋

1.一種神經網絡的運行方法，包括：

利用一個存儲器加載神經網絡的第一個網絡層的權重；

對于所述神經網絡中除所述第一個網絡層之外的每個其他網絡層，利用與用于加載該網絡層的前一網絡層的權重的存儲器不同的另一存儲器加載該網絡層的權重，同時利用網絡運行單元根據所述前一網絡層的權重和所述前一網絡層的運行參數運行所述前一網絡層；以及

利用所述網絡運行單元根據所述神經網絡的最后一個網絡層的權重和所述最后一個網絡層的運行參數，運行所述最后一個網絡層。

2.如權利要求1所述的方法，其中，

對于所述神經網絡中除所述第一個網絡層之外的每個其他網絡層，在所述利用網絡運行單元根據所述前一網絡層的權重和所述前一網絡層的運行參數運行所述前一網絡層之前，所述方法還包括：

利用所述網絡運行單元根據所述前一網絡層的運行參數自內存獲取所述前一網絡層的運行數據；

在所述利用所述網絡運行單元根據所述神經網絡的最后一個網絡層的權重和所述最后一個網絡層的運行參數，運行所述最后一個網絡層之前，所述方法還包括：

利用所述網絡運行單元根據所述最后一個網絡層的運行參數自所述內存獲取所述最后一個網絡層的運行數據。

3.如權利要求1所述的方法，其中，所述神經網絡是串行神經網絡；

僅對于所述神經網絡中第二個網絡層，在所述利用網絡運行單元根據所述前一網絡層的權重和所述前一網絡層的運行參數運行所述前一網絡層之前，所述方法還包括：

利用所述網絡運行單元根據所述第一個網絡層的運行參數自內存獲取所述第一個網絡層的運行數據。

4.如權利要求1至3任一項所述的方法，其中，所述方法還包括：

在所述利用一個存儲器加載神經網絡的第一個網絡層的權重的同時，使得所述網絡運行單元空運行；和/或

在所述利用所述網絡運行單元根據所述神經網絡的最后一個網絡層的權重和所述最后一個網絡層的運行參數，運行所述最后一個網絡層的同時，使得與用于加載所述神經網絡的倒數第二個網絡層的權重的存儲器不同的另一存儲器空加載。

5.如權利要求1至3任一項所述的方法，其中，所述方法還包括：

在每次利用網絡運行單元運行所述神經網絡的網絡層之前，接收該網絡層的運行參數。

6.如權利要求5所述的方法，其中，所述運行參數包括輸入參數和輸出參數。

7.如權利要求1至3任一項所述的方法，其中，所述方法中用于加載所述神經網絡中網絡層的權重的存儲器的個數為2。

8.一種神經網絡的運行裝置，包括：

第一執行模塊，用于利用一個存儲器加載神經網絡的第一個網絡層的權重；還用于對于所述神經網絡中除所述第一個網絡層之外的每個其他網絡層，利用與用于加載該網絡層的前一網絡層的權重的存儲器不同的另一存儲器加載該網絡層的權重，同時利用網絡運行單元根據所述前一網絡層的權重和所述前一網絡層的運行參數運行所述前一網絡層；以及

第二執行模塊，用于利用所述網絡運行單元根據所述神經網絡的最后一個網絡層的權重和所述最后一個網絡層的運行參數，運行所述最后一個網絡層。

9.一種神經網絡的運行系統，包括處理器和至少兩個存儲器，其中，

所述至少兩個存儲器用于輪流加載神經網絡的網絡層的權重，其中所述神經網絡的相鄰網絡層的權重分別利用不同的存儲器加載；

所述處理器用于對于所述神經網絡中除了第一個網絡層之外的每個其他網絡層，在所述至少兩個存儲器之一加載該網絡層的權重的同時，根據該網絡層的前一網絡層的權重和所述前一網絡層的運行參數運行所述前一網絡層；還用于根據所述神經網絡的最后一個網絡層的權重和所述最后一個網絡層的運行參數，運行所述最后一個網絡層。

10.一種存儲介質，在所述存儲介質上存儲了程序指令，所述程序指令在運行時用于執行如權利要求1至7任一項所述的神經網絡的運行方法。