[發明專利]一種基于機器學習模型的企業風險評估方法

在審

• 申請號: 201910722029.3
• 申請日: 2019-08-06
• 公開（公告）號: CN110443304A
• 公開（公告）日: 2019-11-12
• 發明（設計）人: 李振;鮑東岳;張剛;尹正
• 申請（專利權）人: 民生科技有限責任公司
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06N20/00;G06Q10/06
• 代理公司: 北京金智普華知識產權代理有限公司 11401
• 代理人: 巴曉艷

本發明涉及企業風險評估技術領域，提供了一種基于機器學習模型的企業風險評估方法，將企業特征數據拆分為訓練集和驗證集，確定3個用于企業風險評估的模型算法；模型訓練：將訓練集進行5折交叉驗證，同時使用3個所述模型算法訓練模型；5份測試子集每個模型的預測概率值均形成一個新的字段；將所有新的字段與原始部分字段放在一起，使用stacking模型通過5折交叉驗證再次學習，得出測試子集的最終預測概率值；對驗證集進行預測，得到驗證集的預測概率值。本發明采用了級聯的模型融合方式，發揮多機器學習模型的優勢，分別用3模型進行訓練，并調優；使用三層級聯的架構以及stacking融合的方式將模型融合；方法簡單易用，應用前景廣闊。

技術領域

本發明涉及企業風險評估技術領域，特別涉及一種基于機器學習模型的企業風險評估方法。

背景技術

目前市場上的企業風險評估產品較少，且基本是專家評分為主，即使有模型產品也多數基于邏輯回歸的單模型的算法。邏輯回歸做企業風險評估對數據要求很高，且經常達不到理想的精度。比如，邏輯回歸不擅長處理含有大量的字符型特征的數據，不擅長處理數值型變量與目標變量之間不存在線性關系的特征，不擅長處理特征較多的模型，不擅長處理特征含有很多空值的情況等；其次邏輯回歸容易欠擬合，精度不夠；最后邏輯回歸對自變量的多重共線性比較敏感，經常需要去除相關性較高的變量。此外，僅僅使用單模型來訓練模型，可能會導致模型不穩定。

發明內容

本發明的目的之一就是克服現有技術的不足，提供了一種基于機器學習模型的企業風險評估方法，使用了級聯的模型融合方式，發揮多機器學習模型的優勢，對企業風險進行建模。

本發明采用的技術方案如下：

一種基于機器學習模型的企業風險評估方法，所述方法包括：

S1、將企業特征數據拆分為訓練集和驗證集，確定3個用于企業風險評估的模型算法；

S2、模型訓練：將訓練集進行5折交叉驗證，其中4份作為訓練子集，剩下1份作為測試子集(5份數據輪流作一次測試子集)；同時利用3個所述模型算法來訓練模型，每個模型算法對應確定5個模型(對于一個模型算法，每一份測試子集都對應一個模型，5份測試子集共對應5個模型)，記錄各模型的最優參數；5份測試子集每個模型的預測概率值均形成一個新的字段；將所有新的字段以及原始部分字段放在一起，形成新的特征訓練數據；使用stacking模型通過5折交叉驗證再次學習，記錄stacking模型的最優參數；

S3、使用S2模型訓練的邏輯對S1中的驗證集進行預測，得到驗證集的最終預測概率值；

S4、模型評價。

進一步的，預測概率值為0-1之間的一個數值，代表企業不違約的概率。如好企業預測概率值為1，壞企業的預測概率值為0，當企業預測概率值為0.9時，表示該企業不違約概率為90％，相應的，違約概率為10％。

進一步的，所述S4中，模型評價的評價指標為正確率、召回率、精確率和ks指標中的一種或幾種。

進一步的，3個所述模型算法分別為GBDT、Xgboost、Lightgbm。

進一步的，對步驟S1中的企業特征數據進行特征處理，具體步驟為：

1)去除缺失率超過80％的特征；

2)缺失數據為字符型的填充“空值”，缺失數據為數值型的用均值填充；

3)連續性變量做歸一化處理；

4)字符型數據做成one-hot處理。

進一步的，步驟S1中，訓練集和驗證集的比例為4:1。

進一步的，步驟S3中，使用S2模型訓練的邏輯對S1中的驗證集進行預測的步驟為：