[發(fā)明專利]模型訓(xùn)練方法及裝置

有效

• 申請(qǐng)?zhí)枺?/td>: 202010127972.2
• 申請(qǐng)日: 2020-02-28
• 公開（公告）號(hào): CN113326857B
• 公開（公告）日: 2022-09-23
• 發(fā)明（設(shè)計(jì)）人: 程陣
• 申請(qǐng)（專利權(quán)）人: 合肥美亞光電技術(shù)股份有限公司
• 主分類號(hào): G06K9/62
• 分類號(hào): G06K9/62
• 代理公司: 北京清亦華知識(shí)產(chǎn)權(quán)代理事務(wù)所(普通合伙) 11201
• 代理人: 白雪靜

本發(fā)明公開了一種模型訓(xùn)練方法及裝置，其中，方法包括：獲取樣本集合，并對(duì)樣本集合進(jìn)行分類以形成多個(gè)分類樣本集合；獲取每個(gè)分類樣本集合之中每個(gè)樣本的范數(shù)值；根據(jù)每個(gè)分類樣本集合之中每個(gè)樣本的范數(shù)值從每個(gè)分類樣本集合之中抽取m個(gè)樣本，以形成第一訓(xùn)練集合；根據(jù)第一訓(xùn)練集合對(duì)模型進(jìn)行訓(xùn)練。根據(jù)本發(fā)明實(shí)施例的模型訓(xùn)練方法，通過從分類產(chǎn)生的各類樣本中，分別抽取樣本來組成用于訓(xùn)練的樣本，保證了樣本類間的均衡性，可以避免訓(xùn)練樣本不會(huì)偏向部分類，通過這種訓(xùn)練方式，可以提高訓(xùn)練后的模型的識(shí)別性能與魯棒性，根據(jù)范數(shù)值抽取樣本，可以更有針對(duì)性的抽取樣本，有利于控制整個(gè)訓(xùn)練過程。

技術(shù)領(lǐng)域

本發(fā)明涉及計(jì)算機(jī)技術(shù)領(lǐng)域，特別涉及一種模型訓(xùn)練方法及裝置。

背景技術(shù)

相關(guān)技術(shù)中，深度學(xué)習(xí)訓(xùn)練步驟一般是手動(dòng)將所獲取樣本分為訓(xùn)練集及測試集，再進(jìn)行訓(xùn)練以及測試，并且樣本集分配方法一般通過概率隨機(jī)進(jìn)行分配,如深度學(xué)習(xí)訓(xùn)練可以為神經(jīng)網(wǎng)絡(luò)模型的訓(xùn)練，具體如卷積神經(jīng)網(wǎng)絡(luò)模型。

然而，相關(guān)技術(shù)中的分配方法并沒有考慮樣本集內(nèi)部之間關(guān)系，會(huì)造成訓(xùn)練樣本分配不合理，造成訓(xùn)練出來模型的分類性能及魯棒性達(dá)不到最佳，如在深度學(xué)習(xí)的多種分類應(yīng)用中，類間樣本不均衡會(huì)影響分類性能，分類結(jié)果一般偏向樣本多的一類，樣本少的一類的分類性能會(huì)受到影響。

發(fā)明內(nèi)容

本發(fā)明旨在至少在一定程度上解決相關(guān)技術(shù)中的技術(shù)問題之一。為此，本發(fā)明的第一個(gè)目的在于提出一種模型訓(xùn)練方法，，從分類產(chǎn)生的各類樣本中，分別抽取樣本來組成用于訓(xùn)練的樣本，保證了樣本類間的均衡性，可以避免訓(xùn)練樣本不會(huì)偏向部分類，通過這種訓(xùn)練方式，可以提高訓(xùn)練后的模型的識(shí)別性能與魯棒性，并且通過自動(dòng)分配訓(xùn)練樣本及無監(jiān)督訓(xùn)練方式，以及樣本分配與訓(xùn)練相互反饋的方式，有效保證了樣本的合理性及均衡性，從而使得訓(xùn)練出模型的達(dá)到最優(yōu)，進(jìn)而大大提高訓(xùn)練模型的分類性能。

本發(fā)明的第二個(gè)目的在于提出一種模型訓(xùn)練裝置。

為達(dá)到上述目的，本發(fā)明第一方面實(shí)施例提出了一種模型訓(xùn)練方法，包括：獲取樣本集合，并對(duì)所述樣本集合進(jìn)行分類以形成多個(gè)分類樣本集合；獲取每個(gè)所述分類樣本集合之中每個(gè)樣本的范數(shù)值；根據(jù)每個(gè)所述分類樣本集合之中每個(gè)所述樣本的范數(shù)值從所述每個(gè)分類樣本集合之中抽取m個(gè)樣本，以形成第一訓(xùn)練集合；根據(jù)所述第一訓(xùn)練集合對(duì)所述模型進(jìn)行訓(xùn)練。

另外，根據(jù)本發(fā)明上述實(shí)施例的模型訓(xùn)練方法還可以具有如下附加的技術(shù)特征：

根據(jù)本發(fā)明的一個(gè)實(shí)施例，所述獲取每個(gè)所述分類樣本集合之中每個(gè)樣本的范數(shù)值，包括：獲取所述每個(gè)分類樣本集合之中每個(gè)樣本對(duì)應(yīng)的像素點(diǎn)的加權(quán)平均值，以及根據(jù)所述每個(gè)分類樣本集合之中每個(gè)樣本對(duì)應(yīng)的像素點(diǎn)的加權(quán)平均值計(jì)算所述每個(gè)樣本的范數(shù)值。

根據(jù)本發(fā)明的一個(gè)實(shí)施例，在所述根據(jù)所述第一訓(xùn)練集合對(duì)所述模型進(jìn)行訓(xùn)練之后，還包括：根據(jù)訓(xùn)練之后的模型對(duì)所述每個(gè)分類樣本集合之中的剩余樣本進(jìn)行測試，以將類別判斷正確的樣本剔除；判斷所述每個(gè)分類樣本集合之中的剩余樣本數(shù)量是否滿足預(yù)設(shè)條件；如果不滿足所述預(yù)設(shè)條件，則根據(jù)每個(gè)所述分類樣本集合之中每個(gè)所述樣本的范數(shù)值從所述每個(gè)分類樣本集合之中抽取m個(gè)樣本，并將抽取到的樣本加入所述第一訓(xùn)練集合，以更新所述第一訓(xùn)練集合；根據(jù)更新后的所述第一訓(xùn)練集合對(duì)所述模型進(jìn)行訓(xùn)練；返回執(zhí)行所述根據(jù)訓(xùn)練之后的模型對(duì)所述每個(gè)分類樣本集合之中的剩余樣本進(jìn)行測試，以將類別判斷正確的樣本剔除，直至所述剩余樣本數(shù)量滿足所述預(yù)設(shè)條件。

根據(jù)本發(fā)明的一個(gè)實(shí)施例，所述根據(jù)每個(gè)所述分類樣本集合之中每個(gè)所述樣本的范數(shù)值從所述每個(gè)分類樣本集合之中抽取m個(gè)樣本，包括：針對(duì)每個(gè)所述分類樣本集合，在所述樣本的范數(shù)值大于或等于所述分類樣本集合的范數(shù)值均值的樣本中，根據(jù)所述樣本的范數(shù)值大小，按照從小到大的順序抽取a個(gè)樣本，并在所述樣本的范數(shù)值小于所述分類樣本集合的范數(shù)值均值的樣本中，根據(jù)所述樣本的范數(shù)值大小，按照從大到小的順序抽取b個(gè)樣本，其中，a+b＝m。