[發明專利]一種基于分類效用的開集分類方法

有效

• 申請號: 201911352812.1
• 申請日: 2019-12-25
• 公開（公告）號: CN111191033B
• 公開（公告）日: 2023-04-25
• 發明（設計）人: 蔡毅;李澤婷
• 申請（專利權）人: 華南理工大學
• 主分類號: G06F16/35
• 分類號: G06F16/35;G06F18/241
• 代理公司: 廣州市華學知識產權代理有限公司 44245
• 代理人: 裴磊磊

本發明公開了一種基于分類效用的開集分類方法，包括步驟：輸入數據集，并對數據集進行預處理；采用特征提取器將數據轉換為特征；采用訓練集的特征訓練一個可增量學習少樣本分類器；對于一條新數據，對其進行預處理后采用特征提取器提取特征；將新數據的特征輸入到分類器中，尋找已知類別中分類分數最高的一個類別，并計算分類效用；將新數據單獨作為一個類別，采用新數據的特征計算其分類效用；比較已知類別與新類別情況下的分類效用大小，更新分類器；重復提取特征并計算分類效用的步驟，增加分類器處理的類別數據。本發明解決了開集分類中的未知類別數據識別和新類別的引入問題，并結合增量學習來學習新類別，增強分類器。

技術領域

本發明涉及開集分類領域，尤其涉及一種基于分類效用的開集分類方法。

背景技術

面對現實世界的開集分類是一個極具挑戰的任務。在現實世界中，人類期待分類器能夠對實時的數據正確地進行分類。由于新數據中可能包含新類別，因此一個在現實世界中的分類器應該能夠識別出不屬于已知類別的數據，并引入新類別，增量學習新類別。傳統閉集分類技術，假設未知數據全部來自于已知類別，將未知的數據分類到現有類別，因此該項技術只能對來自于已知類別的數據進行分類。然而在現實世界中，這樣的假設往往是不成立的。隨著時間推移，分類體系可能會發生改變，例如新類別的出現。傳統分類器對新類別樣本數據只能將其歸類到已知類別中，不但無法發現新類別，而且造成已知類別的語義偏移。

一個開集分類器，應該具備以下三個方面的能力：(1)識別不屬于現有類別的樣本；(2)發現(1)中數據中的新類別；(3)增量學習新類別。目前關于開集分類的研究只能解決三者之一，不能系統地解決開集分類問題。其中，目前識別不屬于現有類別的樣本的技術集中在兩個方向：學習一個元分類器，學習現有類別的特征，拒絕不屬于現有類別的數據；縮減決策空間，減小開放空間風險。傳統的聚類方法可以從未知類別的數據中發現新類別，但是聚類結果不能保證和已知現有分類體系保持一致。增量學習是在學習新信息中的新知識同時記住舊知識，其中最大的挑戰是解決災難性遺忘，即忘卻以前學過的知識。目前許多學者提出基于記憶的增量學習方法，其中包括顯式存儲訓練樣本、規范化參數更新、為訓練數據建模生成模型，但這些方法假設新增類別擁有足夠多的訓練樣。Ren等人結合元學習，提出了可增量學習少樣本類別的增量學習方法，即注意吸引子網絡。

分類效用是一種衡量分類優良的指標，目的是最大化同一類別中的兩個對象具有相同屬性值的概率，以及來自不同類別的對象具有不同屬性值的概率。人類在對新事物進行分類時，總是無意識地，自發地將新事物分類到類別層級結構中的某一類別層級中，認知心理學家稱之為基本層次分類。認知心理學家發現基本層次分類的最大的性質是類內相似度最大，類間相似度最小。因此當分類效用最大時，分類結果是最符合人類認知的。在開集分類問題最重要的問題之一是判斷何時應該引入新類別，分類效用作為一種衡量分類優良的指標，可以用于評判引入新類別的分類好壞，作為一種是否引入新類別的指標，找出最符合人類認知的分類結果。

發明內容

本發明的目的在于克服現有技術的不足,提供一種基于分類效用的開集分類方法。本發明利用認知心理學中的分類效用作為開集分類任務中引入新類別的指標，解決了開集分類中的未知類別數據識別和新類別的引入問題，并結合增量學習來學習新類別，增強分類器，來應對新數據中可能出現的新類別。

本發明的目的能夠通過以下技術方案實現：

一種基于分類效用的開集分類方法，包括步驟：

輸入數據集，并對數據集進行預處理；

采用特征提取器將數據轉換為特征；

采用訓練集的特征訓練一個可增量學習少樣本分類器；

對于一條新數據，對其進行預處理后采用特征提取器提取特征；

將新數據的特征輸入到分類器中，尋找已知類別中分類分數最高的一個類別，并計算分類效用；