[發(fā)明專利]模型訓(xùn)練方法及裝置、存儲(chǔ)介質(zhì)、電子設(shè)備

在審

• 申請(qǐng)?zhí)枺?/td>: 201710537412.2
• 申請(qǐng)日: 2017-07-04
• 公開（公告）號(hào): CN107169534A
• 公開（公告）日: 2017-09-15
• 發(fā)明（設(shè)計(jì)）人: 焦文健
• 申請(qǐng)（專利權(quán)）人: 北京京東尚科信息技術(shù)有限公司;北京京東世紀(jì)貿(mào)易有限公司
• 主分類號(hào): G06K9/62
• 分類號(hào): G06K9/62;G06Q40/02
• 代理公司: 北京律智知識(shí)產(chǎn)權(quán)代理有限公司11438
• 代理人: 王輝,闞梓瑄

1.一種模型訓(xùn)練方法，其特征在于，包括：

構(gòu)建一決策函數(shù)模型并對(duì)所述決策函數(shù)模型進(jìn)行訓(xùn)練得到多個(gè)訓(xùn)練樣本的重要性度量值；

根據(jù)各所述重要性度量值對(duì)各所述訓(xùn)練樣本進(jìn)行降序排列，并將排序后的各所述訓(xùn)練樣本生成一特征子空間；

對(duì)所述特征子空間的各所述訓(xùn)練樣本進(jìn)行分類并得到多個(gè)分類結(jié)果，將多個(gè)所述分類結(jié)果進(jìn)行加權(quán)整合得到一預(yù)測(cè)分?jǐn)?shù)；

判斷所述預(yù)測(cè)分?jǐn)?shù)是否與預(yù)設(shè)分?jǐn)?shù)相同，并在判斷所述預(yù)測(cè)分?jǐn)?shù)與所述預(yù)設(shè)分?jǐn)?shù)不同時(shí)，對(duì)所述決策函數(shù)模型的參數(shù)進(jìn)行調(diào)整。

2.根據(jù)權(quán)利要求1所述的模型訓(xùn)練方法，其特征在于，構(gòu)建一決策函數(shù)模型包括：

選擇一線性核函數(shù)構(gòu)建決策函數(shù)：f(x)＝＜w,x＞+b；

其中，f(x)為決策函數(shù)，＜w,x＞為線性核函數(shù)，w為重要性度量值，x為自變量，b為常數(shù)。

3.根據(jù)權(quán)利要求2所述的模型訓(xùn)練方法，其特征在于，對(duì)所述決策函數(shù)模型進(jìn)行訓(xùn)練得到多個(gè)訓(xùn)練樣本的重要性度量值包括：

假定所述決策函數(shù)的約束條件為：y_i[(w_i,x_i)+b]-1≥0；其中，x_i為第i個(gè)訓(xùn)練樣本，y_i為與所述第i個(gè)訓(xùn)練樣本對(duì)應(yīng)的結(jié)果標(biāo)簽，b為常數(shù)，w_i為第i個(gè)訓(xùn)練樣本的重要性度量值；

將多個(gè)訓(xùn)練樣本以及與多個(gè)所述訓(xùn)練樣本一一對(duì)應(yīng)的結(jié)果標(biāo)簽代入所述約束條件中并判斷所述約束條件是否成立；

將約束條件成立的各所述訓(xùn)練樣本所對(duì)應(yīng)的決策函數(shù)組成一最小化特征子集J，其中，J＝{J₁,J₂,...,J_m}，m為使約束條件成立的訓(xùn)練樣本的個(gè)數(shù)；

對(duì)所述最小化特征子集J中的各訓(xùn)練樣本所對(duì)應(yīng)的決策函數(shù)進(jìn)行泰勒展開得到：其中，ΔJ(i)為最小化目標(biāo)函數(shù)J在第i個(gè)訓(xùn)練樣本的增量，Δw_i為重要性度量值w在第i個(gè)訓(xùn)練樣本的增量，為最小化目標(biāo)函數(shù)J的一階偏導(dǎo)數(shù)，為最小化目標(biāo)函數(shù)J的二階偏導(dǎo)數(shù)；

根據(jù)第i個(gè)所述訓(xùn)練樣本對(duì)所述最小化目標(biāo)函數(shù)的影響得出在所述最小化目標(biāo)函數(shù)的最優(yōu)點(diǎn)上，一階偏導(dǎo)數(shù)為0，求解得到w_i。

4.根據(jù)權(quán)利要求3所述的模型訓(xùn)練方法，其特征在于，將排序后的各所述各所述訓(xùn)練樣本生成一特征子空間包括：

S10，配置一空集的特征序列F以及一特征子集S；其中，F(xiàn)＝[]，S＝[1，…，p]，p為排序后的訓(xùn)練樣本的個(gè)數(shù)且p≤m；

S20，判斷所述特征子集S是否與φ相同并在判斷所述特征子序列S與φ不相同時(shí)，將m個(gè)所述訓(xùn)練樣本生成支持向量；

S30，根據(jù)各所述訓(xùn)練樣本的特征值w_i計(jì)算所述支持向量中各所述訓(xùn)練樣本的排序規(guī)則R_i，其中：R_i＝(w_i)²；

S40，根據(jù)所述排序規(guī)則R_i的大小，查找到最小排序規(guī)則對(duì)應(yīng)的所述訓(xùn)練樣本的序號(hào)，并將所述訓(xùn)練樣本的序號(hào)添加至所述特征序列F中；

S50，重復(fù)步驟S30以及步驟S40，直至所述特征子集S與φ相同為止，并將每一次查找到的訓(xùn)練樣本的序號(hào)添加至特征序列F中以得到特征子空間。

5.根據(jù)權(quán)利要求4所述的模型訓(xùn)練方法，其特征在于，對(duì)所述特征子空間的各所述訓(xùn)練樣本進(jìn)行分類并得到多個(gè)分類結(jié)果，將多個(gè)所述分類結(jié)果進(jìn)行加權(quán)整合得到一預(yù)測(cè)分?jǐn)?shù)包括：

利用多個(gè)分類器對(duì)所述特征序列F中的各序號(hào)對(duì)應(yīng)的訓(xùn)練樣本進(jìn)行分類得到多個(gè)分類結(jié)果；

根據(jù)各所述分類結(jié)果繪制準(zhǔn)確率與召回率曲線，并根據(jù)準(zhǔn)確率與召回率曲線下面積計(jì)算各所述分類器的權(quán)重w_k，其中：

AUC_k為第k個(gè)分類器的準(zhǔn)確率與召回率曲線下面積，MIN(AUC)為各所述分類器中準(zhǔn)確率與召回率曲線下面積的最小值，MAX(AUC)為各所述分類器中準(zhǔn)確率與召回率曲線下面積的最大值；

根據(jù)各所述分類器的權(quán)重w_k對(duì)多個(gè)所述預(yù)測(cè)分?jǐn)?shù)進(jìn)行整合得到所述預(yù)測(cè)分?jǐn)?shù)Q，其中：q_k為第k個(gè)分類器的輸出結(jié)果。