[發明專利]一種實現連續學習的神經網絡模型的訓練方法、裝置和電子設備

在審

• 申請號: 202110686037.4
• 申請日: 2021-06-21
• 公開（公告）號: CN115511042A
• 公開（公告）日: 2022-12-23
• 發明（設計）人: 尚大山;張握瑜;李熠
• 申請（專利權）人: 中國科學院微電子研究所
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/063;G06N3/08;G06K9/62
• 代理公司: 北京知迪知識產權代理有限公司 11628
• 代理人: 王勝利

本發明公開一種實現連續學習的神經網絡模型的訓練方法、裝置和電子設備，涉及機器學習及人工智能領域。實現連續學習的神經網絡模型的訓練方法，包括：獲取神經網絡模型的歷史浮點權重；對歷史浮點權重進行二值化處理，確定歷史二值權重；利用神經網絡模型的歷史二值權重處理訓練樣本，獲得歷史二值權重的誤差；基于歷史浮點權重和歷史二值權重的誤差，確定當前實際浮點權重；根據當前實際浮點權重調節神經網絡模型的浮點權重。本發明提供的方法既可以實現對當前任務的準確識別，又可以記憶之前學習過的任務，實現二值神經網絡的連續學習，同時提高神經網絡模型的魯棒性，降低數據處理過程中的功耗。

技術領域

本發明涉及機器學習及人工智能領域，尤其涉及一種實現連續學習的神經網絡模型的訓練方法、裝置和電子設備。

背景技術

隨著機器學習及人工智能領域的發展，對于能夠實現連續學習功能的深度神經網絡的研究愈加深入。連續學習是一種重要的深度學習功能，它指的是在學習新知識的同時記憶之前學習過的知識的能力。

人腦通過赫布規則和互補學習系統等復雜的生物系統實現連續學習。但是，傳統的人工神經網絡在學習新知識的場景下會產生災難性遺忘(Catastrophic forgetting)，即重寫神經網絡參數，無法保留之前學習過的神經網絡參數，導致無法實現連續學習。

目前，有多種算法可以避免災難性遺忘，在數據流中實現連續學習，但是這些算法對數據精度要求較高，需要采用浮點型數據。

但是，一方面，采用傳統的互補金屬氧化物半導體(Complementary Metal OxideSemiconductor，CMOS)電路硬件實現上述連續學習算法，需要復雜的電路設計，結構復雜，導致能耗較高。另一方面，采用新型存內計算器件硬件實現時精度難以達到要求，新型存內計算器件存在非理想特性，目前能實現定點8比特(bit)精度，無法達到浮點32bit的計算精度要求。并且，高精度數據處理需要的功耗高。

發明內容

本發明的目的在于提供一種實現連續學習的神經網絡模型的訓練方法、裝置和電子設備，以解決現有實現連續學習算法的存儲容量要求高，數據精度要求高的問題。

第一方面，本發明提供一種實現連續學習的神經網絡模型的訓練方法，包括：

獲取神經網絡模型的歷史浮點權重；

對所述歷史浮點權重進行二值化處理，確定歷史二值權重；

利用所述神經網絡模型的所述歷史二值權重處理訓練樣本，獲得歷史二值權重的誤差；

基于所述歷史浮點權重和所述歷史二值權重的誤差，確定當前實際浮點權重；

根據所述當前實際浮點權重調節所述神經網絡模型的浮點權重。

采用上述技術方案的情況下，本發明提供的實現連續學習的神經網絡模型的訓練方法，可以通過獲取神經網絡模型的歷史浮點權重；對歷史浮點權重進行二值化處理，確定歷史二值權重；利用神經網絡模型的歷史二值權重處理訓練樣本，獲得歷史二值權重的誤差；基于歷史浮點權重和歷史二值權重的誤差，確定當前實際浮點權重；根據當前實際浮點權重調節神經網絡模型的浮點權重。由此可見，本發明提供的方法通過引入二值神經網絡的混合精度訓練方法，使得神經網絡模型不僅能準確識別當前任務，而且可以記憶之前學習過的任務，從而降低連續學習過程中出現的災難性遺忘的問題。并且，采用本發明的方法，無需電路設計，就能實現二值神經網絡的連續學習，可以提高神經網絡模型的魯棒性，可以降低數據處理過程中的功耗。

在一種可能的實現方式中，所述利用所述神經網絡模型的所述歷史二值權重處理訓練樣本，獲得歷史二值權重的誤差，包括：

利用所述神經網絡模型的歷史二值權重處理訓練樣本，獲得樣本損失；

根據所述樣本損失確定所述歷史二值權重的誤差。