[發明專利]基于歷史分類器二次學習的數據流分類方法

在審

• 申請號: 201811599198.4
• 申請日: 2018-12-26
• 公開（公告）號: CN109447188A
• 公開（公告）日: 2019-03-08
• 發明（設計）人: 劉若辰;張澤桐;焦李成;劉靜;慕彩虹;張向榮
• 申請（專利權）人: 西安電子科技大學
• 主分類號: G06K9/62
• 分類號: G06K9/62
• 代理公司: 陜西電子工業專利中心 61205
• 代理人: 陳宏社;王品華

1.一種基于歷史分類器二次學習的數據流分類方法，其特征在于，包括如下步驟：

(1)獲取訓練數據和待分類數據：

接收動態數據環境下的數據流，并將數據流中的數據按照接收順序劃分為n個數據塊，n≥3，將每個數據塊中帶有分類標簽的數據作為訓練數據，其余的數據作為待分類數據，記第t個數據塊的訓練數據為D_t，待分類數據為T_t，并將t初始化為1；

(2)獲取分類器f_t：

將訓練數據D_t輸入到回歸樹中對其進行訓練，得到分類器f_t；

(3)判斷存檔A中存入的分類器數量是否更新要求：

將分類器f_t存入存檔A中，并判斷A內存入的分類器的數量是否小于m，2≤m＜n，若是，令t＝t+1，并執行步驟(2)，否則，將t＝m時存檔A中的分類器放入存檔S_t中，并執行步驟(4)；

(4)對存檔S_t中的分類器進行更新：

當t＝m時，將訓練數據D_t輸入到回歸樹中對其進行訓練，得到分類器f_t，并將分類器f_t存入存檔S_t中，通過多樣性函數求取S_t內存入的每個分類器相對其他分類器的多樣性值的和divs，然后刪除S_t內divs值最小的分類器，得到更新后的存檔S_t；

(5)對訓練數據D_t進行分類：

當t＝m時，通過S_t內的分類器對訓練數據D_t進行分類，得到分類結果Y_t；

(6)對歷史分類器進行二次學習，并構建分類器集成EM_t：

(6a)當t＝m時，計算訓練數據D_t的新分類標簽Y_t′：Y_t′＝Y_t-y，并用Y_t′替換訓練數據D_t的分類標簽，得到數據集D_t′，然后將D_t′輸入到回歸樹中對其進行訓練，得到分類器F_t′，最后將F_t′與從存檔S_t中讀取的歷史存入的分類器F_t的和作為分類器組F_t+F_t′，實現對歷史分類器的二次學習；

(6b)當t＝m時，按照下式對分類器f_t與分類器組F_t+F_t′進行組合，得到分類器集成EM_t：

EM_t＝(F_t+F_t′+f_t)/(m+1)；

(7)對待分類數據T_t進行分類：

當t＝m時，將待分類數據T_t輸入到集成EM_t中進行分類，得到待分類數據T_t的分類結果；

(8)獲取t＝m+1以后的待分類數據T_t的分類結果：

令t＝t+1，重復執行步驟(4)到步驟(7)，直到當t＞n停止，得到n-m個待分類數據的分類結果；

(9)向用戶輸出所有待分類數據的分類結果。

2.根據權利要求1所述的一種動態數據環境下的數據流分類方法，其特征在于，步驟(2)、步驟(4)和步驟(6a)中所述的回歸樹，采用CART樹或Hoeffding樹。

3.根據權利要求1所述的一種動態數據環境下的數據流分類方法，其特征在于，步驟(4)中所述的多樣性函數，其表達式為：

其中，f_i為存檔S_t中第i個分類器，f_j為存檔S_t中第j個分類器，Q(f_i,f_j)為分類器距離函數：

其中，N¹¹表示訓練數據中分類器f_i和分類器f_j同時正確分類的數據的數量，N⁰⁰表示訓練數據中分類器f_i和分類器f_j同時錯誤分類的數據的數量，N⁰¹表示在訓練數據中，分類器f_i分類錯誤，但分類器f_j分類正確的數據的數量，N¹⁰表示在訓練數據中，分類器f_i分類正確，但分類器f_j分類錯誤的數據的數量。