[發(fā)明專利]一種面向變分布數(shù)據(jù)流的在線分類方法

有效

• 申請?zhí)枺?/td>: 202011455187.6
• 申請日: 2020-12-10
• 公開（公告）號: CN112528111B
• 公開（公告）日: 2023-10-20
• 發(fā)明（設(shè)計）人: 尹宏鵬;周瀚;廖城霖;鐘錦濤
• 申請（專利權(quán)）人: 重慶大學(xué)
• 主分類號: G06F16/906
• 分類號: G06F16/906
• 代理公司: 北京同恒源知識產(chǎn)權(quán)代理有限公司 11275
• 代理人: 趙榮之

本發(fā)明涉及一種面向變分布數(shù)據(jù)流的在線分類方法，屬于計算機技術(shù)領(lǐng)域。該方法包括以下步驟：步驟一：離線訓(xùn)練階段；步驟二：在線訓(xùn)練階段；步驟三：在線測試階段；現(xiàn)有的面向數(shù)據(jù)流的在線分類算法沒有考慮到實際動態(tài)數(shù)據(jù)流環(huán)境中分布變化現(xiàn)象。而本發(fā)明的公開的在線分類方法，可以自適應(yīng)學(xué)習(xí)數(shù)據(jù)流分布的變化，以應(yīng)對不斷演變的動態(tài)環(huán)境，具有更重要的實用價值。

技術(shù)領(lǐng)域

本發(fā)明屬于計算機技術(shù)領(lǐng)域，涉及一種面向變分布數(shù)據(jù)流的在線分類方法。

背景技術(shù)

現(xiàn)階段，各領(lǐng)域的數(shù)據(jù)以快速、實時、連續(xù)的形式不斷產(chǎn)生，形成數(shù)據(jù)流。數(shù)據(jù)流中往往蘊含著豐富的知識。研究面向數(shù)據(jù)流的數(shù)據(jù)挖掘方法，從中發(fā)現(xiàn)隱藏的、有價值的信息，可為科學(xué)評判提供決策支持，進而產(chǎn)生更大的社會價值。

分類作為數(shù)據(jù)挖掘的核心任務(wù)之一，受到了學(xué)者廣泛關(guān)注。傳統(tǒng)的分類算法，例如支持向量機(Support Vector Machine,SVM)、K近鄰分類器(K-nearest-neighbor,KNN)、神經(jīng)網(wǎng)絡(luò)(Neural Networks,NN)等，只能處理靜態(tài)數(shù)據(jù)，不適用于現(xiàn)有的數(shù)據(jù)流環(huán)境。有鑒于此，部分學(xué)者也提出不少在線分類算法，例如在線支持向量機(Online SVM)、在線被動攻擊算法(Online Passive Aggressive,PA)等。這些方法通過增量式學(xué)習(xí)的方式，以應(yīng)對源源不斷到來的數(shù)據(jù)，然而這些方法往往假設(shè)數(shù)據(jù)是獨立同分布的。事實上，在真實的環(huán)境中，數(shù)據(jù)分布會隨著時間而發(fā)生改變，即具有動態(tài)變分布的特性。因此，現(xiàn)有的分類技術(shù)應(yīng)具有自適應(yīng)學(xué)習(xí)新數(shù)據(jù)的能力，以適應(yīng)不斷變化的、不確定的動態(tài)環(huán)境，從而從數(shù)據(jù)流中挖掘出有價值的知識。

發(fā)明內(nèi)容

有鑒于此，本發(fā)明的目的在于提供一種面向變分布數(shù)據(jù)流的在線分類方法。本方法自適應(yīng)學(xué)習(xí)數(shù)據(jù)流分布變化，以應(yīng)對不斷演變的動態(tài)環(huán)境，為決策支持提供重要的依據(jù)。

為達到上述目的，本發(fā)明提供如下技術(shù)方案：

一種面向變分布數(shù)據(jù)流的在線分類方法，該方法包括以下步驟：

步驟一：離線訓(xùn)練階段；利用歷史數(shù)據(jù)流的標(biāo)簽數(shù)據(jù)訓(xùn)練一個離線分類器，記為Γ_h；

步驟二：在線訓(xùn)練階段；若有新的訓(xùn)練標(biāo)簽數(shù)據(jù)批次，則進入在線訓(xùn)練階段，調(diào)整新數(shù)據(jù)分布并學(xué)習(xí)在線分類器，記為Γ_n；

步驟三：在線測試階段；若有無標(biāo)簽測試數(shù)據(jù)到來，則綜合離線分類器Γ_h與在線分類器Γ_n形成集成分類器Γ預(yù)測該數(shù)據(jù)標(biāo)簽。

可選的，所述步驟一具體為：

S1.1：將歷史流數(shù)據(jù)X_h切割為兩段，記為舊歷史數(shù)據(jù)與新歷史數(shù)據(jù)；

S1.2：調(diào)整舊歷史數(shù)據(jù)與新歷史數(shù)據(jù)分布，使其條件概率分布一致，其數(shù)學(xué)表示如下：

其中，表示舊歷史數(shù)據(jù)中屬于k類樣本的平均值，表示新歷史數(shù)據(jù)中屬于k類樣本的平均值；對上述方程求解得:

利用分布變換矩陣A調(diào)整新歷史數(shù)據(jù)分布使其與舊歷史數(shù)據(jù)分布一致，即

S1.3：利用歷史數(shù)據(jù)與訓(xùn)練出離線分類器Γ_h。

可選的，所述步驟二具體為：

S2.1：利用離線分類器Γ_h初始化在線分類器Γ_n；

S2.2：初始化離線分類器Γ_h與在線分類器Γ_n的權(quán)重μ與ν；

S2.3：若在t+1時刻有新的訓(xùn)練數(shù)據(jù)批次更新分布變換矩陣A：