[發(fā)明專利]處理數(shù)據(jù)類別不均衡的方法、裝置、電子設(shè)備及存儲介質(zhì)

有效

• 申請?zhí)枺?/td>: 202110263551.7
• 申請日: 2021-03-11
• 公開（公告）號: CN112633426B
• 公開（公告）日: 2021-06-15
• 發(fā)明（設(shè)計(jì)）人: 劉志煌
• 申請（專利權(quán)）人: 騰訊科技（深圳）有限公司
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06N20/10
• 代理公司: 北京勵(lì)誠知識產(chǎn)權(quán)代理有限公司 11647
• 代理人: 趙爽

本申請?zhí)峁┝艘环N處理數(shù)據(jù)類別不均衡的方法、裝置、電子設(shè)備及存儲介質(zhì)。涉及云技術(shù)的大數(shù)據(jù)處理領(lǐng)域。本申請基于少數(shù)類樣本X_i與X_i的每一個(gè)近鄰樣本之間的互信息確定M個(gè)最近鄰樣本；基于X_i與X_ij(near)之間的互信息確定X_ij(near)的互信息權(quán)重；基于X_ij(near)的類型和X_ij(near)的互信息權(quán)重確定X_ij(near)的權(quán)重W_ij(near)；基于W_ij(near)和類別不均衡倍率N確定X_i與X_ij(near)之間待插入的少數(shù)類樣本的數(shù)量N_j；在X_i與X_ij(near)之間插入N_j個(gè)新樣本。通過融合互信息和SMOTE的方式處理數(shù)據(jù)類別不均衡問題，能夠提升SMOTE的分類性能。

技術(shù)領(lǐng)域

本申請實(shí)施例涉及云技術(shù)領(lǐng)域，尤其涉及云技術(shù)的大數(shù)據(jù)處理領(lǐng)域，并且更具體地，涉及處理數(shù)據(jù)類別不均衡的方法、裝置、電子設(shè)備及存儲介質(zhì)。

背景技術(shù)

數(shù)據(jù)類別不均衡問題是常見的影響分類模型性能的問題。

目前，應(yīng)用廣泛的解決數(shù)據(jù)不均衡問題的方法為合成少數(shù)類過采樣技術(shù)（Synthetic Minority Oversampling Technique，SMOTE）。不同于一般的過采樣技術(shù)，SMOTE新增加的少數(shù)類樣本不是通過重復(fù)采樣得到，而是在兩個(gè)少數(shù)類樣之間通過插值的方式合成一個(gè)新樣本，即在少數(shù)類分布邊界內(nèi)增加新的樣本，并將新樣本添加到少數(shù)類別中，從而達(dá)到類均衡的效果。新插值產(chǎn)生的樣本一定程度服從原始數(shù)據(jù)分布，并且產(chǎn)生更多的少數(shù)類信息，提高了模型的泛化能力。

但是，SMOTE是在兩個(gè)同類別的樣本之間合成新樣本，插值后少數(shù)類樣本點(diǎn)密度在小范圍內(nèi)急劇加大，且擴(kuò)充樣本集合時(shí)，沒有改變少數(shù)類樣本的分布特征，沒有考慮多數(shù)類的近鄰樣本信息，對分類邊界的影響較小，一方面容易導(dǎo)致樣本重疊的問題；另一方面導(dǎo)致一些分類器的效果沒有提升，例如支持向量機(jī) (Support Vector Machine，SVM)，該分類器本身以最小化幾何間隔作為損失函數(shù)來進(jìn)行優(yōu)化。由于少數(shù)類別的邊界沒有發(fā)生變化，基于SMOTE合成新的少數(shù)類樣本后，支持向量的位置不發(fā)生偏移。

因此，有待進(jìn)一步改進(jìn)利用SMOTE解決數(shù)據(jù)不均衡問題的方案。

發(fā)明內(nèi)容

本申請?zhí)峁┝艘环N處理數(shù)據(jù)類別不均衡的方法、裝置、電子設(shè)備及存儲介質(zhì)，對利用SMOTE解決數(shù)據(jù)不均衡問題的方案進(jìn)行了改進(jìn)，能夠提升SMOTE的分類性能。

一方面，本申請?zhí)峁┝艘环N處理數(shù)據(jù)類別不均衡的方法，該方法包括：

基于訓(xùn)練集中的第i個(gè)少數(shù)類樣本X_i與該X_i的K個(gè)最近鄰樣本中的每一個(gè)近鄰樣本之間的互信息，在該K個(gè)最近鄰樣本中確定M個(gè)最近鄰樣本；其中，0＜i≤T；該T表征該訓(xùn)練集中少數(shù)類樣本的數(shù)量；

基于該X_i與該M個(gè)最近鄰樣本中的第j個(gè)最近鄰樣本X_ij(near)之間的互信息，確定該X_ij(near)的互信息權(quán)重，0＜j≤M；

基于該X_ij(near)的類型和該X_ij(near)的互信息權(quán)重，確定該X_ij(near)的權(quán)重W_ij(near)；