[發明專利]神經元權重信息處理方法和系統有效
| 申請號: | 201710042087.2 | 申請日: | 2017-01-20 |
| 公開(公告)號: | CN106875010B | 公開(公告)日: | 2019-11-22 |
| 發明(設計)人: | 裴京;施路平;田雷;吳臻志;鄧磊 | 申請(專利權)人: | 清華大學 |
| 主分類號: | G06N3/06 | 分類號: | G06N3/06 |
| 代理公司: | 11606 北京華進京聯知識產權代理有限公司 | 代理人: | 王程<國際申請>=<國際公布>=<進入國 |
| 地址: | 100084*** | 國省代碼: | 北京;11 |
| 權利要求書: | 查看更多 | 說明書: | 查看更多 |
| 摘要: | |||
| 搜索關鍵詞: | 神經元 權重 信息處理 方法 系統 | ||
本發明涉及一種神經元權重信息處理方法和系統,所述方法包括:接收前端神經元的神經元輸出信息,以及與所述神經元輸出信息對應的權重索引;根據所述權重索引,讀取權重索引信息對應關系,獲取權重信息,所述權重索引信息對應關系為權重索引和權重信息之間的對應關系;根據所述權重信息和所述神經元輸出信息,獲取所述前端神經元的輸入信息。神經元之間不再將權重信息直接傳遞,而是將權重信息的索引進行傳遞,不但節省了網絡之間的傳遞信息量,并且可以更加靈活的改變權重信息的設置。提高了神經元網絡的信息處理能力。
技術領域
本發明涉及人工神經網絡技術領域,特別是涉及神經元權重信息處理方法和系統。
背景技術
如今的人工神經網絡研究絕大多數仍是在馮·諾依曼計算機軟件并搭配高性能GPGPU(General Purpose Graphic Processing Units通用圖形處理單元)平臺中實現的,整個過程的硬件開銷、能耗和信息處理速度都不容樂觀。為此,近幾年神經形態計算領域迅猛發展,即采用硬件電路直接構建神經網絡從而模擬大腦的功能,試圖實現大規模并行、低能耗、可支撐復雜模式學習的計算平臺。
然而,傳統的神經形態系統中,將神經網絡中各神經元之間的連接和權重信息進行綁定時,每一個神經元之間的連接都需要傳遞相應的權重信息,占據了較多的硬件處理資源,硬件對于網絡性能的約束很大,并且權重信息降低了神經元的處理能力,限制了神經元的靈活性,不適合通用的神經網絡的硬件框架。
發明內容
基于此,有必要針對神經元與權重信息一一對應配置并傳遞,降低了神經元信息處理能力的問題,提供一種神經元權重信息處理方法和系統,所述方法包括:
接收前端神經元的神經元輸出信息,以及與所述神經元輸出信息對應的權重索引;
根據所述權重索引,讀取權重索引信息對應關系,獲取權重信息,所述權重索引信息對應關系為權重索引和權重信息之間的對應關系;
根據所述權重信息和所述神經元輸出信息,獲取所述前端神經元的輸入信息。
在其中一個實施例中,所述前端神經元,包括人工神經元或脈沖神經元。
在其中一個實施例中,所述權重索引,包括與所述權重索引對應的權重信息的存儲地址。
在其中一個實施例中,所述接收前端神經元的神經元輸出信息,以及與所述神經元輸出信息對應的權重索引,包括:
接收前端神經元輸出的路由信息,所述路由信息包括前端神經元輸出的神經元輸出信息,以及與所述神經元輸出信息對應的權重索引;
解析所述路由信息,獲取所述神經元輸出信息和所述權重索引。
在其中一個實施例中,所述權重信息,包括:
根據預設的權重取值范圍和初始權重信息,利用權重約化算法計算出的所述權重信息。
在其中一個實施例中,在根據所述權重信息和所述神經元輸出信息,獲取所述前端神經元的輸入信息的步驟之后,所述方法還包括:
根據所述前端神經元的輸入信息和讀取的當前神經元信息,根據神經元輸出算法,計算當前神經元輸出信息;
確定所述當前神經元輸出信息的目的信息,并根據所述目的信息查找目的索引對應關系,獲取所述目的信息的權重索引,所述目的索引對應關系包括目的信息和權重索引之間的對應關系;
輸出所述當前神經元輸出信息和所述權重索引。
該專利技術資料僅供研究查看技術是否侵權等信息,商用須獲得專利權人授權。該專利全部權利屬于清華大學,未經清華大學許可,擅自商用是侵權行為。如果您想購買此專利、獲得商業授權和技術合作,請聯系【客服】
本文鏈接:http://www.szxzyx.cn/pat/books/201710042087.2/2.html,轉載請聲明來源鉆瓜專利網。





