[發明專利]一種不平衡數據分類方法

在審

• 申請號: 201410473220.6
• 申請日: 2014-09-17
• 公開（公告）號: CN104239516A
• 公開（公告）日: 2014-12-24
• 發明（設計）人: 柏文陽;姚玉姝;周嵩
• 申請（專利權）人: 南京大學
• 主分類號: G06F17/30
• 分類號: G06F17/30
• 代理公司: 江蘇圣典律師事務所 32237
• 代理人: 胡建華

1.一種不平衡數據分類方法，其特征在于，包括以下步驟：?

步驟一，對于給定的有類標簽的數據集L，計算數據集L中每一個數據點和所有非同類數據點之間的距離，對每一個數據點，記錄其與非同類數據點之間的最小距離，作為該數據點的特征；類標簽不同的兩個數據點視為非同類數據點；?

步驟二，將所有數據點的特征按照遞增順序排列，選擇特征最小的前t個數據點形成訓練集T，其余的數據點組成非數據集N，t取值為2到m的自然數，其中m為數據集L中數據點的總個數；?

步驟三，采用主動學習策略進行迭代的支持向量機訓練，重復以下步驟，直到建立的分類模型中的支持向量個數在迭代中不再發生改變：?

步驟(1)，對訓練集T進行支持向量機訓練，產生一個分類超平面P；?

步驟(2)，用分類超平面P對所有非訓練集N分類預測；?

步驟(3)，把步驟(2)中的預測結果同非訓練集N中數據點自身的類標簽比較，如果存在預測錯誤的數據點，從預測錯誤的數據點中隨機抽取一個數據點移入訓練集T，從而對訓練集T進行更新；?

步驟(4)，計算非訓練集N中數據點到分類超平面P的距離，選擇離分類超平面P最近的一個數據點移入訓練集T，從而對訓練集T進行更新。?

2.根據權利要求1中所述的一種不平衡數據分類方法，其特征在于，步驟一中，使用歐式距離計算一個數據點和另一個非同類數據點之間的距離：?

給定兩個數據點R(r₁,r₂,...r_n)和S(s₁,s₂,...s_n)，兩個數據點R和S之間的歐式距離為：?

其中，Euclidean_Dis(R,S)表示數據點R和S之間的歐式距離，r_i，s_i分別為數據點R和S對應屬性的屬性值，i＝1,2,...n，n為數據的維度。?

3.根據權利要求2中所述的一種不平衡數據分類方法，其特征在于，步驟三的步驟(1)中，支持向量機產生的分類超平面表示為：?

f(x)＝ω^Tx+b?????????(2)?

其中，ω為分類超平面的法向量，T為矩陣轉置標號，x為數據集L中的數據點，b為常數；分類超平面通過最小化目標公式(3)(4)來求得：?

s.t.y_j(ω^TΦ(x_j)+b)≥1,j＝1,2,...,m??????????(4)?

其中，s.t.表示約束條件，x_j表示數據點，y_j是數據點x_j的類標簽，取值為1或-1，分別代表正類和負類，Φ(x_j)是當數據線性不可分時，把數據點x_j從輸入空間向高維空間做的投影，m為數據集L中數據點的個數；引入拉格朗日對偶變量α(α₁,α₂,...,α_m)，α為拉格朗日對偶變量向量，α₁，α₂...α_m為其中的元素，用拉格朗日函數把約束條件和目標函數合并：?

其中，α_j是第j個數據點對應的拉格朗日對偶變量，j＝1,2,...,m，令公式(5)分別對ω和b求偏導，令偏導數為0：?

代回公式(5)，得：?

其中，x_j和x_k分別表示第j個和第k個數據點，α_j和α_k分別為x_j和x_k所對應的拉格朗日對偶變量，y_j和y_k為x_j和x_k對應的類標簽，k＝1,2,...m；?

因此，求分類超平面轉為求：?

s.t.α_j≥0,j＝1,2,...,m???????(10)?

K(x_j,x_k)為徑向基核函數，α_j是第j個數據對應的拉格朗日對偶變量，通過序列最小最優化算法對向量α中所有元素α_j進行求解，其中j＝1,2,...m，m為數據集中數據點的個數；?

序列最小最優化算法的步驟如下：?

(1a)用啟發式方法選取一對α_j和α_k；?

(1b)固定除α_j和α_k之外的其他參數，確定ω極值條件下的α_j，將α_k用α_j表示，以此對α_j和α_k進行更新；?

(1c)重復步驟(1a)(1b)直至收斂，得到α；?

計算分離超平面中的ω和b值：?

其中，是指計算所有負類數據點即y_j＝-1的數據點x_j與ω^T的乘積，取乘積中的最大值，對應的，是指計算所有正類數據點即y_j＝1的數據點x_j與ω^T的乘積，取乘積中的最小值。?