[發(fā)明專利]一種模型訓(xùn)練及基于模型訓(xùn)練的預(yù)測(cè)方法及裝置

在審

• 申請(qǐng)?zhí)枺?/td>: 201810973101.5
• 申請(qǐng)日: 2018-08-24
• 公開(kāi)（公告）號(hào): CN109242165A
• 公開(kāi)（公告）日: 2019-01-18
• 發(fā)明（設(shè)計(jì)）人: 曾偉雄
• 申請(qǐng)（專利權(quán)）人: 蜜小蜂智慧（北京）科技有限公司
• 主分類號(hào): G06Q10/04
• 分類號(hào): G06Q10/04;G06Q40/02;G06N3/04;G06K9/62
• 代理公司: 北京同達(dá)信恒知識(shí)產(chǎn)權(quán)代理有限公司 11291
• 代理人: 黃志華

本發(fā)明公開(kāi)了一種模型訓(xùn)練及基于模型訓(xùn)練的預(yù)測(cè)方法及裝置，所述方法包括：依次針對(duì)包含至少兩層子模型的待訓(xùn)練模型的每層子模型，識(shí)別該層子模型是否為最后一層子模型；如果否，將訓(xùn)練集中已包含正或負(fù)樣本標(biāo)簽的每個(gè)樣本數(shù)據(jù)輸入到該層子模型中，對(duì)該層子模型進(jìn)行訓(xùn)練；并基于訓(xùn)練完成的該層子模型輸出訓(xùn)練集中每個(gè)樣本數(shù)據(jù)對(duì)應(yīng)正樣本數(shù)據(jù)的置信度，采用訓(xùn)練集中對(duì)應(yīng)正樣本數(shù)據(jù)的置信度大于該層子模型對(duì)應(yīng)的置信度閾值的樣本數(shù)據(jù)，對(duì)訓(xùn)練集中的樣本數(shù)據(jù)進(jìn)行更新；如果是，將訓(xùn)練集中已包含正或負(fù)樣本標(biāo)簽的每個(gè)樣本數(shù)據(jù)輸入到該層子模型中，對(duì)該層子模型進(jìn)行訓(xùn)練，用以提高模型預(yù)測(cè)的精度。

技術(shù)領(lǐng)域

本發(fā)明涉及大數(shù)據(jù)科學(xué)技術(shù)領(lǐng)域，尤其涉及一種模型訓(xùn)練及基于模型訓(xùn)練的預(yù)測(cè)方法及裝置。

背景技術(shù)

隨著經(jīng)濟(jì)與信息化的高速發(fā)展，大數(shù)據(jù)應(yīng)運(yùn)而生，大數(shù)據(jù)指的是一種規(guī)模達(dá)到在獲取、存儲(chǔ)、管理、分析等方面大大超出傳統(tǒng)數(shù)據(jù)庫(kù)軟件工具能力范圍的數(shù)據(jù)集合，通過(guò)對(duì)大數(shù)據(jù)進(jìn)行分析和預(yù)測(cè)，可以為企業(yè)的業(yè)務(wù)和決策等提供強(qiáng)有力的支持。面對(duì)大數(shù)據(jù)時(shí)代海量的數(shù)據(jù)，傳統(tǒng)由人工進(jìn)行的數(shù)據(jù)分析和數(shù)據(jù)價(jià)值挖掘已不適用，而人工智能技術(shù)的出現(xiàn)為大數(shù)據(jù)的數(shù)據(jù)分析和數(shù)據(jù)價(jià)值挖掘提供的了一種較佳的解決方案。

現(xiàn)有的人工智能模型的應(yīng)用，通常是用戶選取合適的訓(xùn)練樣本數(shù)據(jù)，其中訓(xùn)練樣本數(shù)據(jù)中包括大量的正樣本數(shù)據(jù)和負(fù)樣本數(shù)據(jù)，通過(guò)模型對(duì)應(yīng)的人工智能學(xué)習(xí)算法對(duì)模型進(jìn)行訓(xùn)練，訓(xùn)練好的模型能夠?qū)斎氲臄?shù)據(jù)進(jìn)行預(yù)測(cè)，預(yù)測(cè)輸入的數(shù)據(jù)為正樣本數(shù)據(jù)，還是負(fù)樣本數(shù)據(jù)。以信用卡交易數(shù)據(jù)為例，訓(xùn)練集中發(fā)生交易欺詐的信用卡交易數(shù)據(jù)為正樣本數(shù)據(jù)，未發(fā)生交易欺詐的信用卡交易數(shù)據(jù)為負(fù)樣本數(shù)據(jù)，通過(guò)訓(xùn)練集中大量正樣本數(shù)據(jù)和負(fù)樣本數(shù)據(jù)對(duì)模型進(jìn)行訓(xùn)練完成后，輸入信用卡交易數(shù)據(jù)后，訓(xùn)練完成的模型能夠?qū)斎氲男庞每ń灰讛?shù)據(jù)是否存在交易欺詐進(jìn)行預(yù)測(cè)。

然而現(xiàn)有模型只有一層，面對(duì)較為復(fù)雜或者包含特征較多的數(shù)據(jù)，一層的模型不能對(duì)數(shù)據(jù)中包含的特征進(jìn)行充分的學(xué)習(xí)，預(yù)測(cè)結(jié)果的準(zhǔn)確性不高。仍以信用卡交易數(shù)據(jù)為例，信用卡交易發(fā)生交易欺詐的概率大約為萬(wàn)分之五(5BP)，如果某銀行某天有10萬(wàn)筆信用卡交易，則大概有50筆信用卡交易存在交易欺詐，因涉及金融交易領(lǐng)域，需確保每筆信用卡交易準(zhǔn)確無(wú)誤，為了防止對(duì)欺詐交易的遺漏，通常要通過(guò)模型從10萬(wàn)筆信用卡交易數(shù)據(jù)中篩選出2500筆信用卡交易數(shù)據(jù)，進(jìn)行人工復(fù)核，才能找出50筆存在交易欺詐的信用卡交易數(shù)據(jù)，需要耗費(fèi)巨大的人力，因此急需一種模型訓(xùn)練方案，用以提高模型預(yù)測(cè)的精度。

發(fā)明內(nèi)容

本發(fā)明提供一種模型訓(xùn)練及基于模型訓(xùn)練的預(yù)測(cè)方法及裝置，用以解決現(xiàn)有技術(shù)中存在模型預(yù)測(cè)的精度不高問(wèn)題。

第一方面，本發(fā)明公開(kāi)了一種模型訓(xùn)練方法，所述方法包括：

依次針對(duì)待訓(xùn)練模型的每層子模型，識(shí)別該層子模型是否為所述待訓(xùn)練模型的最后一層子模型，其中所述待訓(xùn)練模型包含至少兩層子模型；

如果否，將訓(xùn)練集中已包含正樣本或負(fù)樣本標(biāo)簽的每個(gè)樣本數(shù)據(jù)輸入到該層子模型中，對(duì)該層子模型進(jìn)行訓(xùn)練；并基于訓(xùn)練完成的該層子模型輸出訓(xùn)練集中每個(gè)樣本數(shù)據(jù)對(duì)應(yīng)正樣本數(shù)據(jù)的置信度，采用所述訓(xùn)練集中對(duì)應(yīng)正樣本數(shù)據(jù)的置信度大于該層子模型對(duì)應(yīng)的置信度閾值的樣本數(shù)據(jù)，對(duì)所述訓(xùn)練集中的樣本數(shù)據(jù)進(jìn)行更新；

如果是，將訓(xùn)練集中已包含正樣本或負(fù)樣本標(biāo)簽的每個(gè)樣本數(shù)據(jù)輸入到該層子模型中，對(duì)該層子模型進(jìn)行訓(xùn)練。

進(jìn)一步地，所述將訓(xùn)練集中已包含正樣本或負(fù)樣本標(biāo)簽的每個(gè)樣本數(shù)據(jù)輸入到該層子模型中，對(duì)該層子模型進(jìn)行訓(xùn)練之前，所述方法還包括：

判斷所述訓(xùn)練集中樣本數(shù)據(jù)的數(shù)量是否大于設(shè)定的數(shù)量閾值；

如果是，進(jìn)行后續(xù)步驟；

如果否，發(fā)出告警信息。

第二方面，本發(fā)明公開(kāi)了一種基于上述模型訓(xùn)練方法的預(yù)測(cè)方法，所述方法包括：