[發(fā)明專利]分類模型的訓(xùn)練方法及裝置

在審

• 申請?zhí)枺?/td>: 201710361782.5
• 申請日: 2017-05-19
• 公開（公告）號: CN108960264A
• 公開（公告）日: 2018-12-07
• 發(fā)明（設(shè)計）人: 劉炯宙;夏命榛
• 申請（專利權(quán)）人: 華為技術(shù)有限公司
• 主分類號: G06K9/62
• 分類號: G06K9/62
• 代理公司: 深圳市深佳知識產(chǎn)權(quán)代理事務(wù)所(普通合伙) 44285
• 代理人: 王仲凱

本申請公開了一種分類模型的訓(xùn)練方法及裝置，用于提升數(shù)據(jù)分析效率。本申請的分類模型的訓(xùn)練方法包括：接收用于訓(xùn)練分類模型的樣本數(shù)據(jù)，樣本數(shù)據(jù)包括多個樣本特征；從樣本數(shù)據(jù)中確定目標(biāo)特征子集，利用高維稀疏化轉(zhuǎn)換方法確定目標(biāo)特征子集的高維稀疏特征；確定目標(biāo)特征子集的高維稀疏特征對應(yīng)的目標(biāo)數(shù)據(jù)復(fù)雜度，該數(shù)據(jù)復(fù)雜度包括用于表征數(shù)據(jù)特征的多個維度；根據(jù)已建立的數(shù)據(jù)復(fù)雜度與分類算法的映射關(guān)系確定目標(biāo)數(shù)據(jù)復(fù)雜度所對應(yīng)的目標(biāo)分類算法，以及根據(jù)已建立的數(shù)據(jù)復(fù)雜度與目標(biāo)分類算法的超參數(shù)集合的映射關(guān)系確定目標(biāo)數(shù)據(jù)復(fù)雜度所對應(yīng)的目標(biāo)參數(shù)；根據(jù)確定的目標(biāo)參數(shù)以及目標(biāo)特征子集的高維稀疏特征訓(xùn)練目標(biāo)分類算法，以得到分類模型。

技術(shù)領(lǐng)域

本申請涉及數(shù)據(jù)處理領(lǐng)域，特別涉及一種分類模型的訓(xùn)練方法及裝置。

背景技術(shù)

隨著大數(shù)據(jù)時代的到來，信息數(shù)據(jù)日益膨脹，對海量數(shù)據(jù)進(jìn)行高效魯棒精確分析的市場需求不斷擴(kuò)大。如電信領(lǐng)域的離網(wǎng)預(yù)測、醫(yī)療診斷、信用卡系統(tǒng)的信用分級、圖像模式識別以及網(wǎng)絡(luò)數(shù)據(jù)分類等。在此背景下，機(jī)器學(xué)習(xí)得到了廣泛應(yīng)用，尤其以機(jī)器學(xué)習(xí)中分類方法的應(yīng)用最為廣泛。

然而，對于分類方法的使用卻面臨著眾多的難題，其中以特征選擇，特征變換，模型選擇和參數(shù)調(diào)優(yōu)最為困難，需要反復(fù)嘗試，修改，再迭代，使得數(shù)據(jù)分析周期長，成本高。由于特征選擇，模型選擇，參數(shù)調(diào)優(yōu)等任何一個環(huán)節(jié)都有可能對最終結(jié)果產(chǎn)生影響，所以在數(shù)據(jù)分析時，要求系統(tǒng)整體具備較高的魯棒性，使得當(dāng)一個環(huán)節(jié)出了輕微的問題，不至于給最終結(jié)果造成很差的影響。

但也正因如此，影響數(shù)據(jù)分析的因素很多，對數(shù)據(jù)分析結(jié)果的定位和調(diào)試成本非常高，特別是大數(shù)據(jù)場景，每做一次數(shù)據(jù)分析需要花費大量的時間進(jìn)行計算，導(dǎo)致整個數(shù)據(jù)分析周期過長，數(shù)據(jù)分析效率低下。

發(fā)明內(nèi)容

本申請?zhí)峁┝艘环N分類模型的訓(xùn)練方法及裝置，用于提升數(shù)據(jù)分析效率。

本申請第一方面提供了一種分類模型的訓(xùn)練方法，該分類模型用于對數(shù)據(jù)進(jìn)行分類。

為了便于從樣本數(shù)據(jù)中提取相關(guān)特征，因此，首先需要接收輸入的用于訓(xùn)練所述分類模型的樣本數(shù)據(jù)；其中，該樣本數(shù)據(jù)包括多個樣本特征。

然后通過從該樣本數(shù)據(jù)中確定目標(biāo)特征子集，篩選出需要用到的多個特征，以減少數(shù)據(jù)的計算量。其中，該目標(biāo)特征子集為該樣本數(shù)據(jù)中相關(guān)性和冗余度都滿足目標(biāo)條件的特征集合。

利用高維稀疏化轉(zhuǎn)換方法確定該目標(biāo)特征子集的高維稀疏特征，該高維稀疏特征為線性特征；如利用核函數(shù)方法對所述目標(biāo)特征子集進(jìn)行稀疏化處理，得到目標(biāo)特征子集的高維稀疏特征，以提高數(shù)據(jù)分析的精度。

接下來確定該目標(biāo)特征子集的高維稀疏特征對應(yīng)的目標(biāo)數(shù)據(jù)復(fù)雜度，該數(shù)據(jù)復(fù)雜度包括用于表征數(shù)據(jù)特點的多個維度；可采用數(shù)據(jù)復(fù)雜度來度量特征子集的高維稀疏特征。

然后根據(jù)已建立的數(shù)據(jù)復(fù)雜度與分類算法的映射關(guān)系確定所述目標(biāo)數(shù)據(jù)復(fù)雜度所對應(yīng)的目標(biāo)分類算法，以及根據(jù)已建立的數(shù)據(jù)復(fù)雜度與所述目標(biāo)分類算法的超參數(shù)集合的映射關(guān)系確定所述目標(biāo)數(shù)據(jù)復(fù)雜度所對應(yīng)的目標(biāo)參數(shù)達(dá)到優(yōu)選算法以及縮小參數(shù)空間的目的。其中，該數(shù)據(jù)復(fù)雜度與分類算法的映射關(guān)系，以及該數(shù)據(jù)復(fù)雜度與分類算法的超參數(shù)集合的映射關(guān)系可通過預(yù)學(xué)習(xí)訓(xùn)練得到。

最后根據(jù)確定的該目標(biāo)參數(shù)以及該目標(biāo)特征子集的高維稀疏特征訓(xùn)練該目標(biāo)分類算法，以得到該分類模型。應(yīng)用該分類模型能夠提高數(shù)據(jù)分析效率。

在第一方面的一種實現(xiàn)方式下，上述從該樣本數(shù)據(jù)中確定目標(biāo)特征子集，包括：

從該樣本數(shù)據(jù)中確定最大相關(guān)性和最小冗余度的特征子集；該最大相關(guān)性和最小冗余度的特征子集為該目標(biāo)特征子集。通過提取滿足最大相關(guān)性和最小冗余度的特征子集，可以過濾一些關(guān)聯(lián)度不重要的數(shù)據(jù)，以減少數(shù)據(jù)的計算量。

在第一方面的一種實現(xiàn)方式下，該利用高維稀疏化轉(zhuǎn)換方法確定該目標(biāo)特征子集的高維稀疏特征，包括：