[發明專利]一種基于權值分配資源的神經網絡訓練方法和裝置

有效

• 申請號: 201810069252.8
• 申請日: 2018-01-24
• 公開（公告）號: CN108364063B
• 公開（公告）日: 2019-09-27
• 發明（設計）人: 廖裕民;吳占敏
• 申請（專利權）人: 福州瑞芯微電子股份有限公司
• 主分類號: G06N3/06
• 分類號: G06N3/06
• 代理公司: 福州市景弘專利代理事務所(普通合伙) 35219
• 代理人: 林祥翔;徐劍兵

1.一種基于權值分配資源的神經網絡訓練裝置，其特征在于，所述裝置包括可重構網絡矩陣單元、參數配置單元、誤差計算單元、反向回寫單元、配置信息存儲單元、參數元素存儲單元；

所述參數配置單元用于獲取配置信息存儲單元中的參數配置信息，并根據參數配置信息從參數元素存儲單元中獲取相應數量的參數元素，并將參數配置信息與參數元素傳輸至可重構網絡矩陣單元；

所述可重構網絡矩陣單元用于根據參數配置信息和參數元素構建神經網絡電路，所述參數配置信息包括連接權值信息，所述神經網絡電路包括多層神經網絡子電路，每一神經網絡子電路至少對應一連接權值信息；所述參數元素包括不同精度的乘加器，各層神經網絡子電路所采用的乘加器精度與該層神經網絡子電路的連接權值信息大小成正比；

所述神經網絡電路用于接收待測數據，并進行神經網絡識別計算，所述誤差計算單元用于判斷本次計算結果與真實信息的匹配度是否大于預設匹配度，若是則判定為訓練完成，記錄此時各層神經網絡子電路對應的連接權值信息，所述反向回寫單元用于將包含有更新后的連接權值信息的參數配置信息寫入配置信息存儲單元中；否則神經網絡電路用于根據本次訓練結果的匹配度與上一次訓練結果的匹配度的差異，調整各層神經網絡子電路的連接權重信息，以及根據調整后的連接權重信息確認各層神經網絡子電路所采用的乘加器精度，并再次進行神經網絡計算，直至訓練完成。

2.如權利要求1所述的基于權值分配資源的神經網絡訓練裝置，其特征在于，所述參數配置信息包含有各層神經網絡子電路進行神經網絡識別計算所需的最小乘加器數量；可重構網絡矩陣單元用于根據參數配置信息和參數元素構建神經網絡電路包括：

可重構網絡矩陣單元用于根據各層神經網絡子電路進行神經網絡識別計算所需的最小乘加器數量，配置各層神經網絡子電路的乘加器數量，此時各層神經網絡子電路的乘加器為第一精度；

而后可重構網絡矩陣單元用于根據各層神經網絡子電路對應的連接權值信息大小，將參數元素存儲單元中剩余的乘加器分配至連接權值信息最大的神經網絡子電路，以使得該神經網絡子電路采用第二精度的乘加器進行神經網絡識別計算；所述第二精度高于第一精度，第二精度的乘加器包括多個第一精度的乘加器。

3.如權利要求1所述的基于權值分配資源的神經網絡訓練裝置，其特征在于，所述裝置包括WIFI通信單元，所述參數配置單元還通過WIFI通信單元與互聯網連接，所述參數配置單元還用于在未從配置信息存儲單元中獲取各層神經網絡子電路對應的連接權值信息時，通過WIFI通信單元從互聯網中搜索各層神經網絡子電路對應的連接權值信息的初始值，并將搜索到初始值存儲于配置信息存儲單元中。

4.如權利要求1所述的基于權值分配資源的神經網絡訓練裝置，其特征在于，所述可重構網絡矩陣單元還包括互聯矩陣單元、升級單元、激活函數單元；所述升級單元、激活函數單元分別與互聯矩陣單元連接，所述互聯矩陣單元用于根據參數配置信息對乘加器、升級單元、激活函數單元進行互聯，從而形成對應的神經網絡結構。