[發明專利]一種基于大腦神經突觸記憶機制的面向開放世界連續學習方法

在審

• 申請號: 201811532220.3
• 申請日: 2018-12-14
• 公開（公告）號: CN109657791A
• 公開（公告）日: 2019-04-19
• 發明（設計）人: 李海峰;彭劍;蔣浩;李卓
• 申請（專利權）人: 中南大學
• 主分類號: G06N3/08
• 分類號: G06N3/08;G06N3/04
• 代理公司: 北京潤平知識產權代理有限公司 11283
• 代理人: 黃志興;趙東方

本發明公開了一種基于大腦神經突觸記憶機制的面向開放世界連續學習方法，首先利用深度卷積神經網絡建立感知模塊，對當前視覺任務進行學習；其次，構建網絡重組模塊，在已訓練好的模型上進行突觸的修剪和強化，從而減少突觸的連接和強化學習到的知識；最后，在學習新的視覺任務時對前面記憶進行鞏固，通過其保護新任務的信息對前面任務的干擾。本發明在一個任務數據上訓練完成后，重組模塊會重新組織網絡，修剪掉不重要的參數，提升參數的可塑性，同時為了保證當前任務的性能，通過強化重要的參數來鞏固當前的知識，并更新網絡；在學習新的任務時，通過保留原任務參數空間下的最大響應圖來指導新任務學習，從而避免災難性遺忘。

技術領域

本發明涉及一種基于大腦神經突觸記憶機制的面向開放世界連續學習方法，屬于人工智能領域。

背景技術

人類從嬰兒開始就不斷感知周圍環境并逐步地學習，掌握各種技能。例如，先學會走路，然后學會跑步，騎車，這種逐步獲取和微調已有知識，以及融合新的知識的同時仍能夠保留之前學習到的經歷，稱為連續學習，是通往智能的關鍵。

人工智能的快速發展離不開深度學習技術的突破。近年來，深度學習在各個領域取得了令人矚目的成就，從語音識別到計算機視覺，以及與強化學習算法結合后的“AlphaGo”，在很多項目上開始碾壓人類。

然而，現有的深度模型基于封閉性假設，主要包括：

首先是樣本空間封閉假設，深度學習方法通常首先需要預先構建海量的、封閉的訓練庫，然后從訓練庫中學習特征。數據空間的不完備性和封閉性存在一個根本問題：測試會嚴重依賴于訓練庫覆蓋能力，模型的泛化能力會受到極大的影響。

其次是任務的封閉性。深度學習的方法主要面向單一特定任務，構建特定模型。基于每一個任務和每一個數據集來建立模型。

然而，現實世界中運行的計算系統接觸到的信息流是連續的，需要從動態的數據分布中學習和記住多個任務。例如，在agent與周圍環境交互的過程中需要其能夠從過去的經驗中學習，再或者agent從數據流中學習各個類，數據被逐步引入到模型中，需要算法連續地從序列數據流中學習新的類。

盡管傳統的一些方法可以一定程度解決這個問題，但是仍然存在很多局限。而且，在某些場景下，例如自動駕駛，需要模型在學習過程中快速地做出反應，傳統的一些方法過于低效，而且會影響新任務的學習。

人類基于突觸可塑性的連續學習機制啟發我們：一是大腦神經元的連接是過參數化的，較少的連接就能學習某一任務，這是大腦保持連續學習的充分條件；二是大腦通過突觸的可塑性來處理新舊任務的沖突，可塑性越弱說明神經元間的連接對當前任務越重要。已有的研究也表明不同的參數配置神經網絡能夠得到相當的表現，證實了模型過參數化問題。基于這一研究，如何將大腦神經元突觸可塑性機制引入神經網絡中克服災難性遺忘具有重要的意義。

發明內容

本發明的目的是提供一種基于大腦神經突觸記憶機制的面向開放世界連續學習方法，以基于深度學習技術構建快速、靈活的學習系統，適應開放真實環境下的人工智能應用需要。

為了實現上述目的，本發明提供一種基于大腦神經突觸記憶機制的面向開放世界連續學習方法，包括如下步驟：

(1)利用深度卷積神經網絡建立感知模塊，對當前視覺任務進行學習；

(2)構建網絡重組模塊，在已訓練好的模型上進行突觸的修剪和強化，從而減少突觸的連接和強化學習到的知識；

(3)在學習新的任務時，通過保留原任務參數空間下的最大響應圖來指導新任務學習，從而避免災難性遺忘。

進一步地，所述步驟(1)包括以下步驟：

(11)根據當前任務類型和數據，構建基于深度卷積神經網絡識別模型，包括基礎網絡和分類器；