[發明專利]神經網絡中的差分編碼

有效

• 申請號: 201580015756.6
• 申請日: 2015-03-17
• 公開（公告）號: CN107077637B
• 公開（公告）日: 2021-07-20
• 發明（設計）人: V·S·R·安納普萊蒂;D·J·朱里安;R·B·托瓦;Y·劉
• 申請（專利權）人: 高通股份有限公司
• 主分類號: G06N3/04
• 分類號: G06N3/04
• 代理公司: 上海專利商標事務所有限公司 31100
• 代理人: 李小芳

神經網絡中的差分編碼包括基于神經網絡中的神經元的至少一個先前激活值來預測該神經元的激活值。該編碼進一步包括基于神經網絡中的該神經元的預測激活值與實際激活值之間的差值來對值進行編碼。

相關申請的交叉引用

本申請依據35U.S.C.§119(e)要求于2014年3月24日提交的題為“DIFFERENTIALENCODING IN NEURAL NETWORKS(神經網絡中的差分編碼)”的美國臨時專利申請No.61/969,747的權益，其公開內容全部通過援引明確納入于此。

背景

領域

本公開的某些方面一般涉及神經系統工程，尤其涉及用于神經網絡中的差分編碼的系統和方法。

背景技術

可包括一群互連的人工神經元(即，神經元模型)的人工神經網絡是一種計算設備或者表示將由計算設備執行的方法。人工神經網絡可具有生物學神經網絡中的對應的結構和/或功能。然而，人工神經網絡可為其中傳統計算技術是麻煩的、不切實際的、或不勝任的某些應用提供創新且有用的計算技術。由于人工神經網絡能從觀察中推斷出功能，因此這樣的網絡在因任務或數據的復雜度使得通過常規技術來設計該功能較為麻煩的應用中是特別有用的。

概述

根據本公開的一方面的一種在神經網絡中執行差分編碼的方法包括基于神經網絡中的神經元的至少一個先前激活值來預測該神經元的激活值。此類方法進一步包括基于神經網絡中的該神經元的預測激活值與激活值之間的差值來對值進行編碼。

根據本公開的一方面的一種用于在神經網絡中執行差分編碼的裝置包括存儲器和耦合到該存儲器的至少一個處理器。該(諸)處理器被配置成基于神經網絡中的神經元的至少一個先前激活值來預測該神經元的激活值。該(諸)處理器還被配置成基于神經網絡中的該神經元的預測激活值與激活值之間的差值來對值進行編碼。

根據本公開的另一方面的一種用于在尖峰神經網絡中執行差分編碼的裝備包括用于基于神經網絡中的神經元的至少一個先前激活值來預測該神經元的激活值的裝置。此類裝備進一步包括用于基于神經網絡中的該神經元的預測激活值與激活值之間的差值來對值進行編碼的裝置。

根據本公開另一方面的一種用于在尖峰神經網絡中執行差分編碼的計算機程序產品包括其上編碼有程序代碼的非瞬態計算機可讀介質。該程序代碼包括用于基于神經網絡中的神經元的至少一個先前激活值來預測該神經元的激活值的程序代碼。該程序代碼還包括用于基于神經網絡中的該神經元的預測激活值與激活值之間的差值來對值進行編碼的程序代碼。

這已較寬泛地勾勒出本公開的特征和技術優勢以便下面的詳細描述可以被更好地理解。本公開的附加特征和優點將在下文描述。本領域技術人員應該領會，本公開可容易地被用作修改或設計用于實施與本公開相同的目的的其他結構的基礎。本領域技術人員還應認識到，這樣的等效構造并不脫離所附權利要求中所闡述的本公開的教導。被認為是本公開的特性的新穎特征在其組織和操作方法兩方面連同進一步的目的和優點在結合附圖來考慮以下描述時將被更好地理解。然而，要清楚理解的是，提供每一幅附圖均僅用于解說和描述目的，且無意作為對本公開的限定的定義。

附圖簡述

在結合附圖理解下面闡述的詳細描述時，本公開的特征、本質和優點將變得更加明顯，在附圖中，相同附圖標記始終作相應標識。

圖1解說了根據本公開的某些方面的示例神經元網絡。

圖2解說了根據本公開的某些方面的計算網絡(神經系統或神經網絡)的處理單元(神經元)的示例。

圖3解說了根據本公開的某些方面的尖峰定時依賴可塑性(STDP)曲線的示例。

圖4解說了根據本公開的某些方面的用于定義神經元模型的行為的正態相和負態相的示例。