[發(fā)明專利]一種適用于無標(biāo)簽不平衡數(shù)據(jù)流的在線主動學(xué)習(xí)方法

在審

• 申請?zhí)枺?/td>: 201910001840.2
• 申請日: 2019-01-02
• 公開（公告）號: CN109800799A
• 公開（公告）日: 2019-05-24
• 發(fā)明（設(shè)計(jì)）人: 吳慶耀;張一帆;譚明奎
• 申請（專利權(quán)）人: 華南理工大學(xué)
• 主分類號: G06K9/62
• 分類號: G06K9/62
• 代理公司: 廣州粵高專利商標(biāo)代理有限公司 44102
• 代理人: 何淑珍;江裕強(qiáng)

1.一種適用于無標(biāo)簽不平衡數(shù)據(jù)流的在線主動學(xué)習(xí)方法，其特征在于，包括以下步驟：

步驟1、獲取無標(biāo)簽數(shù)據(jù)流，時序地輸入線性分類器中進(jìn)行預(yù)測，其中數(shù)據(jù)流的類別具有高度不平衡問題，設(shè)定正類樣本為類別稀少樣本；

步驟2、根據(jù)提出的非對稱訪問策略，線性分類器針對無標(biāo)簽不平衡數(shù)據(jù)，時序地決定需要被標(biāo)注標(biāo)簽的樣本；

步驟3、根據(jù)提出的非對稱更新策略，線性分類器利用錯誤預(yù)測的標(biāo)注數(shù)據(jù)更新線性分類器，并利用樣本的二階信息提高學(xué)習(xí)效率。

2.根據(jù)權(quán)利要求1所述的一種適用于無標(biāo)簽不平衡數(shù)據(jù)流的在線主動學(xué)習(xí)方法，其特征在于，所述步驟1中，所述無標(biāo)簽數(shù)據(jù)流表示為其中代表樣本的特征數(shù)量為d，T表示無標(biāo)簽樣本的總數(shù)；可標(biāo)注標(biāo)簽的樣本預(yù)算為B個，標(biāo)簽的類別為y_t∈{-1，+1}，則正類樣本y_t＝+1的數(shù)量遠(yuǎn)遠(yuǎn)少于負(fù)類樣本y_t＝-1，所述線性分類器的具體使用方法為：

步驟11、所述線性分類器表示為其滿足多變量高斯分布其中μ表示線性分類器w的均值，而∑表示線性分類器w的方差；

步驟12、所述線性分類器的分類預(yù)測表示為其中sign(·)表示當(dāng)則否則

步驟13、所述線性分類器的預(yù)測結(jié)果表示為：若則線性分類器分類正確，否則線性分類器的分類錯誤。

3.根據(jù)權(quán)利要求1所述的一種適用于無標(biāo)簽不平衡數(shù)據(jù)流的在線主動學(xué)習(xí)方法，其特征在于，所述步驟2中非對稱訪問策略的步驟如下：

步驟21、基于樣本的二階信息∑即線性分類器的方差，計(jì)算線性分類器對當(dāng)前樣本的置信度；

步驟22、基于置信度，計(jì)算當(dāng)前樣本的非對稱訪問參數(shù)；

步驟23、基于非對稱訪問參數(shù)，進(jìn)行伯努利采樣，獲取其采樣值；

步驟24、如果該采樣值為1，則判定需要訪問該樣本的標(biāo)簽；反之，則不需要。

4.根據(jù)權(quán)利要求1所述的一種適用于無標(biāo)簽不平衡數(shù)據(jù)流的在線主動學(xué)習(xí)方法，其特征在于，所述步驟3中非對稱更新策略的步驟如下：

步驟31、獲取錯誤預(yù)測的有標(biāo)簽數(shù)據(jù)；

步驟32、基于錯誤預(yù)測的有標(biāo)簽數(shù)據(jù)，計(jì)算該數(shù)據(jù)的非對稱損失函數(shù)值；

步驟33、基于非對稱損失函數(shù)值和優(yōu)化策略，更新線性分類器的方差∑；

步驟34：基于非對稱損失函數(shù)值和優(yōu)化策略，更新線性分類器的均值μ。

5.根據(jù)權(quán)利要求3所述的一種適用于無標(biāo)簽不平衡數(shù)據(jù)流的在線主動學(xué)習(xí)方法，其特征在于，通過以下公式計(jì)算置信度：

其中，η代表線性分類器的學(xué)習(xí)率，γ代表正則化系數(shù)，ρ_max＝max(1，ρ)，ρ代表正類樣本的誤分類代價；此外，代表模型對當(dāng)前樣本的信心，代表了模型對當(dāng)前樣本的熟悉程度，從而更好的計(jì)算置信度c_t；

基于置信度c_t，通過以下公式計(jì)算當(dāng)前樣本的非對稱訪問參數(shù)：

q_t＝|p_t|+c_t

其中，代表線性分類器對當(dāng)前樣本的預(yù)測邊際，|p_t|，即該預(yù)測邊際的絕對值，代表了模型對該樣本的預(yù)測距離分類平面的距離；

基于非對稱訪問參數(shù)q_t，進(jìn)行伯努利采樣，獲取采樣值；對于不同類別的樣本設(shè)定不同的采樣系數(shù)，通過以下表示采樣概率：

其中，δ₊為正類預(yù)測即p_t≥0的采樣系數(shù)，δ_-為負(fù)類預(yù)測即p_t＜0的采樣系數(shù)；通過該采樣概率進(jìn)行伯努利采樣，獲取采樣值Z_t。

6.根據(jù)權(quán)利要求4所述的一種適用于無標(biāo)簽不平衡數(shù)據(jù)流的在線主動學(xué)習(xí)方法，其特征在于，通過以下公式計(jì)算非對稱損失函數(shù)值：

其中ρ代表正類樣本的誤分類權(quán)重；代表指示函數(shù)，即滿足條件則為1，否則為0。