[發(fā)明專利]一種基于深度學習的信用評分集成分類系統(tǒng)和方法

在審

• 申請?zhí)枺?/td>: 201910715438.0
• 申請日: 2019-08-05
• 公開（公告）號: CN110580268A
• 公開（公告）日: 2019-12-17
• 發(fā)明（設計）人: 侯榆青;賀心畋;賀小偉;王賓;李思奇;王文強;張翔
• 申請（專利權）人: 西北大學
• 主分類號: G06F16/28
• 分類號: G06F16/28;G06N3/04;G06Q10/04;G06Q40/02
• 代理公司: 61216 西安恒泰知識產(chǎn)權代理事務所
• 代理人: 王芳

本發(fā)明公開了一種基于深度學習的信用評分集成分類系統(tǒng)和方法，系統(tǒng)包括，數(shù)據(jù)獲取及預處理單元用于獲取信用數(shù)據(jù)集，并進行數(shù)據(jù)預處理得到樣本數(shù)據(jù)集，將樣本數(shù)據(jù)集分為樣本訓練集和樣本測試集；集成分類訓練單元用于將樣本訓練集分別通過RNN子單元、LR子單元和XGBoost子單元進行訓練，獲得樣本測試集分別通過每個子單元得到的預測信用概率；投票單元用于對集成分類訓練單元獲得的三個預測信用概率進行多數(shù)投票，若兩個或以上的預測信用概率高于0.5則客戶信用良好，否則客戶信用不良。本發(fā)明將深度學習算法循環(huán)神經(jīng)網(wǎng)絡RNN應用到信用評分問題，將邏輯回歸LR、極限梯度提升樹XGBoost與循環(huán)神經(jīng)網(wǎng)絡RNN并行集成，兼顧模型的多樣性和準確性，提高了模型的性能。

技術領域

本發(fā)明屬于數(shù)據(jù)挖掘技術領域，具體涉及一種基于深度學習的信用評分集成分類系統(tǒng)。

背景技術

近年來，信貸市場發(fā)展迅速，金融機構面臨的挑戰(zhàn)越來越多。信用風險評估作為金融行業(yè)的重要環(huán)節(jié)，在選擇信貸客戶、度量風險等方面發(fā)揮著重要作用。個人的信用評分通常為二分類問題，根據(jù)客戶的信用數(shù)據(jù)和相關特征開發(fā)分類器，構建決策系統(tǒng)，將客戶分為信用良好和信用不良兩類，向金融機構提供決策支持。

目前，應用于信用評分的分類方法主要有兩種：統(tǒng)計方法和人工智能方法，這些方法相比過去的經(jīng)驗判斷更加準確、可靠。統(tǒng)計方法中最常用的兩個模型是邏輯回歸和線性判別分析，它們易于實現(xiàn)且準確率較高而廣受歡迎，但它們具有理想性的假設可能會限制模型性能。后來人工智能方法開始應用于信用評分問題，如決策樹、支持向量機等。然而，單一的算法并不能有效地解決所有信用評分問題，而集成學習算法結合多種基礎算法，考慮多個分類器，具有多樣性，它的思路是基于多個學習算法的集成來提升預測結果。據(jù)研究表明，集成學習算法比單一的人工智能方法和統(tǒng)計方法效果更好。目前，有很多學者將基礎的機器學習方法應用于信用評分領域，然而這些方法主要關注抽象層次的分類器輸出，通常需要復雜的特征工程。而具有足夠隱藏層的深度學習模型可以自動學習模式特征，并將特征學習融入到了建立模型的過程中，具有強適用性和遷移性，但深度學習在該領域研究甚少。

綜上所述，現(xiàn)有技術存在的問題是：現(xiàn)有的信用評分模型大多數(shù)都是由淺層架構構建，需要復雜的特征工程，準確度較低，具有一定局限性。

發(fā)明內(nèi)容

本發(fā)明的目的在于提供一種基于深度學習的信用評分集成分類系統(tǒng)及方法，用以解決現(xiàn)有技術中的現(xiàn)有的信用評分模型大多數(shù)都是由淺層架構構建，需要復雜的特征工程，準確度較低的問題。

為了實現(xiàn)上述任務，本發(fā)明采用以下技術方案：

一種基于深度學習的信用評分集成分類系統(tǒng)，包括數(shù)據(jù)獲取及預處理單元、集成分類訓練單元和投票單元；

所述數(shù)據(jù)獲取及預處理單元用于獲取信用數(shù)據(jù)集，并對信用數(shù)據(jù)集進行數(shù)據(jù)預處理得到樣本數(shù)據(jù)集，將樣本數(shù)據(jù)集分為樣本訓練集和樣本測試集；

所述集成分類訓練單元包括RNN子單元、LR子單元和XGBoost子單元，所述集成分類訓練單元用于將數(shù)據(jù)獲取及預處理單元得到的樣本訓練集分別通過RNN子單元、LR子單元和XGBoost子單元進行訓練，獲得樣本測試集分別通過每個子單元得到的預測信用概率；

所述投票單元用于對集成分類訓練單元獲得的三個預測信用概率進行多數(shù)投票，若兩個或以上的預測信用概率高于0.5則客戶信用良好，否則客戶信用不良。

進一步的，所述信用數(shù)據(jù)集包含客戶的個人屬性值，包括性別、信用記錄、支票賬號狀況、婚姻情況、工作情況、信貸目的和財產(chǎn)情況。

進一步的，所述數(shù)據(jù)獲取及預處理單元包括數(shù)據(jù)獲取子單元和預處理子單元，所述預處理子單元包括缺失值補充模塊、虛擬變量定義模塊和歸一化模塊，所述缺失值補充模塊用于通過均值插補的方法補充個人屬性值的缺失值，所述虛擬變量定義模塊用于將個人屬性值中的字母轉換為數(shù)字，所述歸一化模塊用于對個人屬性值進行歸一化處理。