[發明專利]數據分類模型訓練方法和裝置

有效

• 申請號: 201710109745.5
• 申請日: 2017-02-28
• 公開（公告）號: CN106897746B
• 公開（公告）日: 2020-03-03
• 發明（設計）人: 劉巍;葛彥昊;陳宇;翁志
• 申請（專利權）人: 北京京東尚科信息技術有限公司;北京京東世紀貿易有限公司
• 主分類號: G06K9/62
• 分類號: G06K9/62
• 代理公司: 中國國際貿易促進委員會專利商標事務所 11038
• 代理人: 許蓓

本發明公開了一種數據分類模型訓練方法和裝置，涉及計算機技術領域。通過先采用類別數較少、類內樣本數較多的識別對象通用數據集使分類模型具有初步識別性能，然后采用類別數較多的識別對象實際數據集訓練分類模型頂部若干層的參數值，使分類模型適應實際識別場景并達到收斂效果，再采用識別對象實際數據集對分類模型進行整體訓練，從而使分類模型能夠保證收斂、防止過擬合，確保了數據分類的性能和準確性。

技術領域

本發明涉及計算機技術領域，特別涉及一種數據分類模型訓練方法和裝置。

背景技術

目前，在圖像識別、語音識別、聲紋識別等領域，會采用基礎的分類網絡進行訓練得到特征，再進行進一步的分類，通過分類來識別出輸入數據所屬的人或者語音內容等。

以圖像識別為例，一般的訓練方法為：輸入若干圖像，每張圖像會對應相應的類別標簽，神經網絡在采用輸入的若干圖像進行訓練后，通過對輸出的誤差的迭代學習來優化網絡參數。最終模型誤差收斂于一個較小的區間時，訓練完成。傳統的深度網絡借助這種訓練方法，可以在公共的學術數據集上獲得較好的識別效果。

然而，實際場景中可以獲取的數據則與學術數據集有很大的差異。以人臉識別為例，實際場景中可以獲取的人臉數據所屬的人的數量較多，如50萬人左右，而單人的樣本數據卻比較少，例如只有1～3張。如果使用這種結構的數據集訓練神經網絡模型，往往很難實現收斂的目標，或者神經網絡非常容易過擬合，導致模型的識別率低下，無法達到預期的效果。

發明內容

本發明實施例所要解決的一個技術問題是：在數據分類過程中，如何避免由分類模型難以收斂和過擬合而導致的分類模型識別率低問題。

根據本發明實施例的第一個方面，提供一種數據分類模型訓練方法，包括：采用識別對象通用數據集對神經網絡分類模型各個層的參數值進行訓練，獲得第一神經網絡分類模型；采用識別對象實際數據集對第一神經網絡分類模型頂部若干層的參數值進行訓練，獲得第二神經網絡分類模型；再次采用識別對象實際數據集對第二神經網絡分類模型各個層的參數值進行訓練，獲得完成訓練的第三神經網絡分類模型；其中，識別對象通用數據集中數據的類別數量小于第一類別數量預設值、類別內的樣本數量大于第一類內樣本數預設值，識別對象實際數據集中數據的類別數量大于第二類別數量預設值，第一類別數量預設值小于第二類別數量預設值。

在一個實施例中，采用識別對象實際數據集對第一神經網絡分類模型頂部若干層的參數值進行訓練，獲得第二神經網絡分類模型包括：采用識別對象實際數據集對第一神經網絡分類模型頂部若干層的參數值進行訓練和調整，當分類誤差小于預設的初步收斂誤差時結束調整，獲得第二神經網絡分類模型；其中，預設的初步收斂誤差與標準誤差的差大于預設值。

在一個實施例中，頂部若干層的參數值為最頂層的參數值。

在一個實施例中，在采用識別對象通用數據集對神經網絡分類模型各個層的參數值進行訓練，獲得第一神經網絡分類模型之前，方法還包括：采用多對象通用數據集對神經網絡分類模型各個層的參數值進行訓練，獲得第四神經網絡分類模型；采用識別對象通用數據集對神經網絡分類模型各個層的參數值進行訓練，獲得第一神經網絡分類模型包括：采用識別對象通用數據集對第四神經網絡分類模型各個層的參數值進行訓練，獲得第一神經網絡分類模型；其中，多對象通用數據集中數據的類別數量小于第三類別數量預設值、類別內的樣本數量大于第三類內樣本數預設值，第三類別數量預設值小于第二類別數量預設值。

在一個實施例中，當完成訓練的第三神經網絡分類模型用于人臉識別時，多對象通用數據集包括人臉圖像數據和非人臉圖像數據，識別對象通用數據集包括標準的人臉圖像數據，識別對象實際數據集包括在神經網絡分類模型的應用環境中采集的人臉圖像數據；或者，當完成訓練的第三神經網絡分類模型用于聲紋識別時，多對象通用數據集包括人聲數據和非人聲數據、識別對象通用數據集包括標準的人聲數據，識別對象實際數據集為在神經網絡分類模型的應用環境中采集的人聲數據。