[發明專利]一種增量學習方法、裝置及設備

有效

• 申請號: 202111028310.0
• 申請日: 2021-09-02
• 公開（公告）號: CN113850302B
• 公開（公告）日: 2023-08-29
• 發明（設計）人: 葉帆帆;馬良;鐘巧勇;謝迪;浦世亮
• 申請（專利權）人: 杭州海康威視數字技術股份有限公司
• 主分類號: G06F18/214
• 分類號: G06F18/214;G06F18/241;G06N3/04
• 代理公司: 北京博思佳知識產權代理有限公司 11415
• 代理人: 楊春香

本申請提供一種增量學習方法、裝置及設備，該方法包括：將混合數據輸入給原始任務模型得到第一特征向量，將混合數據輸入給初始增量模型得到第二特征向量，所述混合數據包括目標生成器生成的虛擬數據和增量數據；基于第一特征向量和第二特征向量對初始增量模型的參數值進行調整，得到調整后增量模型；若調整后增量模型未收斂，則將調整后增量模型確定為初始增量模型，返回執行將混合數據輸入給原始任務模型得到第一特征向量的操作；若調整后增量模型已收斂，則將調整后增量模型確定為已完成增量學習的目標增量模型。通過本申請的技術方案，可以有效緩解目標增量模型的災難性遺忘，并保護數據隱私。

技術領域

本申請涉及人工智能技術領域，尤其涉及一種增量學習方法、裝置及設備。

背景技術

機器學習是實現人工智能的一種途徑，是一門多領域交叉學科，涉及概率論、統計學、逼近論、凸分析、算法復雜度理論等多門學科。機器學習用于研究計算機如何模擬或實現人類的學習行為，以獲取新的知識或技能，重新組織已有的知識結構使之不斷改善自身的性能。機器學習更加注重算法設計，使計算機能夠自動地從數據中學習規律，并利用規律對未知數據進行預測。機器學習已經有了十分廣泛的應用，如深度學習、數據挖掘、計算機視覺、自然語言處理、生物特征識別、搜索引擎、醫學診斷、語音和手寫識別等等。

增量學習是機器學習的一種學習方式，是指算法模型能夠從不斷新增的樣本中學習到新知識，并能夠保存大部分以前已經學習到的知識。但是，在進行增量學習時，通常會出現災難性遺忘現象，災難性遺忘是一種現象，是指隨著增量任務的訓練，算法模型在舊任務上的性能出現急劇下降的現象，即舊任務上的性能降低，也就是說，在模型的應用場景更換后，性能下降嚴重。

發明內容

本申請提供一種增量學習方法，所述方法包括：

獲取目標生成器、原始任務模型和初始增量模型；所述原始任務模型基于原始數據訓練得到，所述初始增量模型的網絡結構與所述原始任務模型的網絡結構相同，且所述初始增量模型的參數值與所述原始任務模型的參數值不同；

將混合數據輸入給所述原始任務模型得到第一特征向量，將所述混合數據輸入給所述初始增量模型得到第二特征向量；其中，所述混合數據包括所述目標生成器生成的虛擬數據、用于對初始增量模型進行增量學習的增量數據；

基于所述第一特征向量和所述第二特征向量對所述初始增量模型的參數值進行調整，得到調整后增量模型；

若所述調整后增量模型未收斂，則將所述調整后增量模型確定為初始增量模型，返回執行將混合數據輸入給所述原始任務模型得到第一特征向量的操作；

若所述調整后增量模型已收斂，則將所述調整后增量模型確定為已完成增量學習的目標增量模型，所述目標增量模型用于對待檢測數據進行處理。

示例性的，所述基于所述第一特征向量和所述第二特征向量對所述初始增量模型的參數值進行調整，得到調整后增量模型，包括：基于所述第一特征向量和所述第二特征向量確定第一目標損失值；基于所述第一目標損失值對所述初始增量模型的參數值進行調整，得到所述調整后增量模型。

示例性的，所述基于所述第一特征向量和所述第二特征向量確定第一目標損失值，包括：基于特征差異化損失值確定所述第一目標損失值；或者，基于特征差異化損失值和類別交叉熵損失值確定所述第一目標損失值；其中：

所述特征差異化損失值的確定方式包括：確定所述第一特征向量與所述第二特征向量之間的距離，基于所述距離確定所述特征差異化損失值。

示例性的，所述類別交叉熵損失值的確定方式包括：將混合數據輸入給所述原始任務模型得到K個類別分別對應的置信度，K為大于1的正整數；

從所有置信度中選取最大置信度，將最大置信度對應的類別確定為所述第一特征向量的偽標簽，并將最大置信度確定為所述偽標簽的目標置信度；