[發明專利]COLD神經元尖峰定時反向傳播

在審

• 申請號: 201580015733.5
• 申請日: 2015-03-18
• 公開（公告）號: CN107077636A
• 公開（公告）日: 2017-08-18
• 發明（設計）人: D·J·朱里安;S·S·塔拉迪
• 申請（專利權）人: 高通股份有限公司
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/08
• 代理公司: 上海專利商標事務所有限公司31100
• 代理人: 李小芳

1.一種用于訓練尖峰神經網絡的方法，包括：

通過尖峰發放模型以基于映射的更新和至少一個復位機制來計算神經元狀態更新；以及

使用對尖峰時間的反向傳播來計算權重更新。

2.如權利要求1所述的方法，其特征在于，計算所述神經元狀態更新是至少部分地基于差分方程更新。

3.如權利要求2所述的方法，其特征在于，計算所述神經元狀態更新是至少部分地基于Cold神經元模型更新。

4.如權利要求1所述的方法，其特征在于，所述至少一個復位機制至少部分地基于閾值來觸發復位。

5.如權利要求1所述的方法，其特征在于，所述權重更新包括至少部分地基于輸出尖峰時間來修改至少一個權重。

6.如權利要求1所述的方法，其特征在于，計算所述權重更新包括至少部分地基于所述尖峰神經網絡中在尖峰時間處的神經元狀態來添加誤差項。

7.如權利要求6所述的方法，其特征在于，所述神經元狀態和所述尖峰時間是針對同一神經元的。

8.如權利要求1所述的方法，其特征在于，當神經元沒有發放尖峰時或者當神經元在期望輸出尖峰時間和實際輸出尖峰時間之后發放尖峰時，所述權重更新包括默認更新值。

9.如權利要求1所述的方法，其特征在于，進一步包括當計算出的梯度超過閾值時將其歸一化。

10.如權利要求1所述的方法，其特征在于，計算神經元狀態更新包括至少部分地基于閉式解來計算神經元狀態更新。

11.一種用于在尖峰神經網絡中執行反向傳播的設備，包括：

用于通過尖峰發放模型以基于映射的更新和至少一個復位機制來計算神經元狀態更新的裝置；以及

用于使用對尖峰時間的反向傳播來計算權重更新的裝置。

12.一種用于在尖峰神經網絡中執行反向傳播的計算機程序產品，包括：

其上編碼有程序代碼的非瞬態計算機可讀介質，所述程序代碼包括：

用于通過尖峰發放模型以基于映射的更新和至少一個復位機制來計算神經元狀態更新的程序代碼；以及

用于使用對尖峰時間的反向傳播來計算權重更新的程序代碼。

13.一種用于在尖峰神經網絡中執行反向傳播的裝置，包括：

存儲器；以及

耦合到所述存儲器的至少一個處理器，所述至少一個處理器配置成：

通過尖峰發放模型以基于映射的更新和至少一個復位機制來計算神經元狀態更新；以及

使用對尖峰時間的反向傳播來計算權重更新。

14.如權利要求13所述的裝置，其特征在于，所述至少一個處理器被進一步配置成至少部分地基于差分方程更新來計算所述神經元狀態更新。

15.如權利要求14所述的裝置，其特征在于，所述至少一個處理器被進一步配置成至少部分地基于Cold神經元模型更新來計算所述神經元狀態更新。

16.如權利要求13所述的裝置，其特征在于，所述至少一個復位機制至少部分地基于閾值來觸發復位。

17.如權利要求13所述的裝置，其特征在于，所述至少一個處理器被進一步配置成通過至少部分地基于輸出尖峰時間修改至少一個權重來計算權重更新。

18.如權利要求13所述的裝置，其特征在于，所述至少一個處理器被進一步配置成通過至少部分地基于所述尖峰神經網絡中在尖峰時間處的神經元狀態添加誤差項來計算所述權重更新。

19.如權利要求18所述的裝置，其特征在于，所述神經元狀態和所述尖峰時間是針對同一神經元的。

20.如權利要求13所述的裝置，其特征在于，所述至少一個處理器被進一步配置成當神經元沒有發放尖峰時或者當神經元在期望輸出尖峰時間和實際輸出尖峰時間之后發放尖峰時，將權重更新計算為默認更新值。

21.如權利要求13所述的裝置，其特征在于，所述至少一個處理器被進一步配置成當計算出的梯度超過閾值時將其歸一化。

22.如權利要求13所述的裝置，其特征在于，所述至少一個處理器被進一步配置成通過至少部分地基于閉式解計算神經元狀態更新來計算神經元狀態更新。