[發明專利]神經網絡設備和操作神經網絡設備的方法

在審

• 申請號: 201710826342.2
• 申請日: 2017-09-14
• 公開（公告）號: CN107871159A
• 公開（公告）日: 2018-04-03
• 發明（設計）人: 樸峻奭
• 申請（專利權）人: 三星電子株式會社
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/063
• 代理公司: 北京市柳沈律師事務所11105
• 代理人: 邵亞麗

1.一種操作神經網絡設備的方法，所述方法包括：

由輸入層接收多個連續輸入數據，其中，神經網絡設備包括神經網絡，神經網絡包括輸入層、第一線性層、第一非線性層和第二線性層；

基于來自多個連續輸入數據當中的當前輸入數據與先前輸入數據之間的差，由輸入層生成增量數據；

由第一線性層生成第一當前特征，

其中，第一當前特征對應于基于第一增量特征和第一先前特征對當前輸入數據執行第一線性運算的結果，通過對增量數據執行第一線性運算來生成第一增量特征，以及第一先前特征存儲在第一線性層中的第一寄存器中；

基于第二當前特征和第二先前特征，由第一非線性層生成第二增量特征，

其中，通過對第一當前特征執行第一非線性運算來生成第二當前特征，并且第二先前特征存儲在第一非線性層中的第二寄存器中；以及

基于第三增量特征和第三先前特征，由第二線性層生成第三當前特征，

其中，第三當前特征對應于對第二當前特征執行第二線性運算的結果，通過對第二增量特征執行第二線性運算來生成第三增量特征，并且第三先前特征存儲在第二線性層中的第三寄存器中。

2.根據權利要求1所述的方法，其中，當輸入層接收第一輸入數據作為當前輸入數據時，輸入層將來自多個連續輸入數據當中的第一輸入數據設置為增量數據，

其中，當輸入層在接收第一輸入數據之后接收多個連續輸入數據中的每一個時，輸入層通過從當前輸入數據中減去先前輸入數據來生成增量數據，

其中，在當前輸入數據之前接收先前輸入數據。

3.根據權利要求1所述的方法，其中，輸入層僅向第一線性層提供增量數據。

4.根據權利要求1所述的方法，其中，由第一線性層生成第一當前特征包括：

通過對增量數據執行第一線性運算來生成第一增量特征；

通過將第一增量特征與存儲在第一寄存器中的第一先前特征相加來生成第一當前特征；以及

通過將第一當前特征存儲在第一寄存器中，將第一寄存器從第一先前特征更新為第一當前特征。

5.根據權利要求1所述的方法，其中，存儲在第一寄存器中的第一先前特征對應于對先前輸入數據執行第一線性運算的結果。

6.根據權利要求1所述的方法，其中，第一線性層對應于神經網絡的卷積層。

7.根據權利要求1所述的方法，其中，第一線性層僅向第一非線性層提供第一當前特征。

8.根據權利要求1所述的方法，其中，由第一非線性層生成第二增量特征包括：

通過對第一當前特征執行第一非線性運算來生成第二當前特征；

通過從第二當前特征中減去存儲在第二寄存器中的第二先前特征來生成第二增量特征；以及

通過將第二當前特征存儲在第二寄存器中，將第二寄存器從第二先前特征更新為第二當前特征。

9.根據權利要求1所述的方法，其中，存儲在第二寄存器中的第二先前特征對應于對在先前周期期間從第一線性層提供給第一非線性層的特征執行第一非線性運算的結果。

10.根據權利要求1所述的方法，其中，第一非線性層對應于神經網絡的激活層和池化層中的一個。

11.根據權利要求1所述的方法，其中，第一非線性層僅向第二線性層提供第二增量特征。

12.根據權利要求1所述的方法，其中，由第二線性層生成第三當前特征包括：

通過對第二增量特征執行第二線性運算來生成第三增量特征；

通過將第三增量特征與存儲在第三寄存器中的第三先前特征相加來生成第三當前特征；以及

通過將第三當前特征存儲在第三寄存器中，將第三寄存器從第三先前特征更新為第三當前特征。

13.根據權利要求1所述的方法，其中，存儲在第三寄存器中的第三先前特征對應于對存儲在第一非線性層的第二寄存器中的第二先前特征執行第二線性運算的結果。

14.根據權利要求1所述的方法，其中，第二線性層對應于神經網絡的全連接層。

15.根據權利要求1所述的方法，進一步包括：

使用第三當前特征來識別在當前輸入數據中包括的信息。