[發(fā)明專利]一種優(yōu)化用戶信用模型建模過程的方法及裝置

在審

• 申請?zhí)枺?/td>: 201610052278.2
• 申請日: 2016-01-26
• 公開（公告）號: CN106997484A
• 公開（公告）日: 2017-08-01
• 發(fā)明（設(shè)計）人: 席炎;楊強鵬;余舟華;姜曉燕;王曉光;褚崴;曾海峰;俞吳杰;楊軍
• 申請（專利權(quán)）人: 阿里巴巴集團控股有限公司
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/08;G06Q30/02;G06Q40/02
• 代理公司: 北京國昊天誠知識產(chǎn)權(quán)代理有限公司11315
• 代理人: 黃熊

1.一種優(yōu)化用戶信用模型建模過程的方法，所述方法應(yīng)用于深度網(wǎng)絡(luò)，所述深度網(wǎng)絡(luò)包括N層，其特征在于，該方法包括：

獲取用于建立用戶信用模型的樣本數(shù)據(jù)；

將所述樣本數(shù)據(jù)作為輸入數(shù)據(jù)輸入到所述深度網(wǎng)絡(luò)，對所述深度網(wǎng)絡(luò)的第i-1層、第i層以及第i+1層進行如下操作：將第i-1層的輸出數(shù)據(jù)作為第i層的輸入數(shù)據(jù)，利用所述第i層的輸入數(shù)據(jù)對第i層與第i+1層之間的權(quán)值矩陣進行訓(xùn)練，得到第i層與第i+1層之間的權(quán)值矩陣，所述i大于等于2，小于N；

用所述權(quán)值矩陣初始化所述深度網(wǎng)絡(luò)的相應(yīng)層，以實現(xiàn)對用戶信用模型建模過程的優(yōu)化。

2.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述利用所述第i層的輸入數(shù)據(jù)對第i層與第i+1層之間的權(quán)值矩陣進行訓(xùn)練具體包括：

根據(jù)所述第i層的輸入數(shù)據(jù)，計算獲得第i+1層的輸出數(shù)據(jù)；

將所述第i+1層的輸出數(shù)據(jù)作為輸入數(shù)據(jù)，計算獲得第i層的輸出數(shù)據(jù)；

將所述第i層的輸出數(shù)據(jù)作為輸入數(shù)據(jù)，計算獲得第i+1層中輸出數(shù)據(jù)為預(yù)設(shè)數(shù)據(jù)的概率；

根據(jù)所述第i層的輸入數(shù)據(jù)、第i+1層的輸出數(shù)據(jù)、第i層的輸出數(shù)據(jù)和第i+1層中輸出數(shù)據(jù)為預(yù)設(shè)數(shù)據(jù)的概率，對第i層與第i+1層之間的權(quán)值矩陣進行訓(xùn)練。

3.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述根據(jù)所述第i層的輸入數(shù)據(jù)獲取第i+1層的輸出數(shù)據(jù)具體包括：

根據(jù)所述第i層的輸入數(shù)據(jù)，計算獲得第i+1層的輸出數(shù)據(jù)為預(yù)設(shè)數(shù)據(jù)的概率，并將所述概率與預(yù)設(shè)的概率閾值比較，如果所述概率小于所述預(yù)設(shè)的概率閾值，則第i+1層的輸出數(shù)據(jù)為所述預(yù)設(shè)數(shù)據(jù)。

4.根據(jù)權(quán)利要求2所述的方法，其特征在于，所述方法還包括：

根據(jù)所述第i層的輸入數(shù)據(jù)和第i層的輸出數(shù)據(jù)，對第i層的偏置項進行訓(xùn)練，并根據(jù)所述第i+1層的輸出數(shù)據(jù)和第i+1層中輸出數(shù)據(jù)為預(yù)設(shè)數(shù)據(jù)的概率，對第i+1層的偏置項進行訓(xùn)練，所述對第i層的偏置項和第i+1層的偏置項進行訓(xùn)練用以實現(xiàn)對用戶信用模型建模過程的優(yōu)化。

5.根據(jù)權(quán)利要求1所述的方法，其特征在于，將所述深度網(wǎng)絡(luò)的第i-1層、第i層以及第i+1層作為受限玻爾茲曼機進行訓(xùn)練。

6.根據(jù)權(quán)利要求1所述的方法，其特征在于，在所述用訓(xùn)練得到的相應(yīng)層的權(quán)值矩陣初始化所述深度網(wǎng)絡(luò)的相應(yīng)層之后，該方法還包括：

在所述深度網(wǎng)絡(luò)中輸入所述建立用戶信用模型的樣本數(shù)據(jù)，并根據(jù)所述相應(yīng)層的權(quán)值矩陣獲取所述深度網(wǎng)絡(luò)中的第N層的輸出數(shù)據(jù)；

計算所述第N層的輸出數(shù)據(jù)和期望輸出數(shù)據(jù)之間的誤差值，如果所述誤差值小于預(yù)設(shè)的誤差閾值時，則所述相應(yīng)層的權(quán)值矩陣為所述深度網(wǎng)絡(luò)的最終權(quán)值矩陣；如果所述誤差值大于所述預(yù)設(shè)的誤差閾值時，則對所述相應(yīng)層的權(quán)值矩陣進行調(diào)整，直到調(diào)整后的權(quán)值使得所述深度網(wǎng)絡(luò)中的第N層的輸出數(shù)據(jù)與期望輸出數(shù)據(jù)之間的誤差值小于所述預(yù)設(shè)的誤差閾值時，則所述調(diào)整后的權(quán)值為所述深度網(wǎng)絡(luò)的最終權(quán)值。

7.根據(jù)權(quán)利要求6所述的方法，其特征在于，對所述相應(yīng)層的權(quán)值矩陣進行調(diào)整具體包括：

根據(jù)所述第N層輸出與期望輸出之間的誤差函數(shù)，獲取所述相應(yīng)層的權(quán)值矩陣的修正值；

根據(jù)所述權(quán)值矩陣的修正值對所述相應(yīng)層的權(quán)值矩陣進行調(diào)整。

8.一種優(yōu)化用戶信用模型建模過程的裝置，其特征在于，該裝置包括獲取單元、處理單元、優(yōu)化單元，其中：

所述獲取單元，用于獲取用于建立用戶信用模型的樣本數(shù)據(jù)；

所述處理單元，用于將所述樣本數(shù)據(jù)作為輸入數(shù)據(jù)輸入到所述深度網(wǎng)絡(luò)，并對所述深度網(wǎng)絡(luò)的第i-1層、第i層以及第i+1層進行如下操作：

將第i-1層的輸出數(shù)據(jù)作為第i層的輸入數(shù)據(jù)，利用所述第i層的輸入數(shù)據(jù)對第i層與第i+1層之間的權(quán)值矩陣進行訓(xùn)練，得到第i層與第i+1層之間的權(quán)重矩陣權(quán)值矩陣，所述i大于等于2，小于N；

所述優(yōu)化單元，用于用所述權(quán)值矩陣初始化所述深度網(wǎng)絡(luò)的相應(yīng)層，以實現(xiàn)對用戶信用模型建模過程的優(yōu)化。