[發明專利]模型同步更新方法、裝置及電子設備

有效

• 申請號: 202010551706.2
• 申請日: 2020-06-17
• 公開（公告）號: CN111738416B
• 公開（公告）日: 2023-07-18
• 發明（設計）人: 白戈;袁澤寰
• 申請（專利權）人: 北京字節跳動網絡技術有限公司
• 主分類號: G06N3/0464
• 分類號: G06N3/0464;G06N3/08;G06N5/01;G06F18/2431
• 代理公司: 北京風雅頌專利代理有限公司 11403
• 代理人: 鮑勝如

本公開實施例中提供了一種模型同步更新方法、裝置及電子設備，屬于數據處理技術領域，該方法包括：在利用第一卷積神經網絡模型的輸出數據訓練第一決策樹模型的同時，設置第二卷積神經網絡模型和第二決策樹模型；分別利用所述第一卷積神經網絡模型和所述第二卷積神經網絡模型的輸出數據來訓練所述第一決策樹模型和所述第二決策樹模型；基于所述第一決策樹模型和所述第二決策樹模型訓練的結果，分別對所述第一決策樹模型和所述第二決策樹模型的性能指標進行評估；基于第一性能指標與第二性能指標的比較結果，對所述第一卷積神經網絡模型或所述第二卷積神經網絡模型中的一個執行下線操作。通過本公開的處理方案，能夠提高模型更新的效率。

技術領域

本公開涉及數據處理技術領域，尤其涉及一種模型同步更新方法、裝置及電子設備。

背景技術

卷積神經網絡(Convolutional?Neural?Networks,CNN)是一類包含卷積計算且具有深度結構的前饋神經網絡，是深度學習的代表算法之一。卷積神經網絡具有表征學習能力，能夠按其階層結構對輸入信息進行平移不變分類。

卷積神經網絡仿造生物的視知覺機制構建，可以進行監督學習和非監督學習，其隱含層內的卷積核參數共享和層間連接的稀疏性使得卷積神經網絡能夠以較小的計算量對格點化特征，例如像素和音頻進行學習、有穩定的效果且對數據沒有額外的特征工程要求。

gbdt(Gradient?Boosting?Decision?Tree，梯度提升決策樹)，在回歸和分類問題上的良好性能受到工業界和機器學習比賽的青睞，目前推薦用的gbdt模型依賴的視覺特征大部分產生于卷積神經網絡(CNN)。如果只更新CNN模型而不更新gbdt模型，由于CNN輸出的特征分布已經發生變化，但此時gbdt仍然假定分布沒有變化，導致最終輸出會產生偏差。因此需要一種機制在更新CNN時通知gbdt模型同步更新，另外當新的CNN模型效果不好時，希望能保留舊的CNN和舊的gbdt模型。

發明內容

有鑒于此，本公開實施例提供一種模型同步更新方法、裝置及電子設備，以至少部分解決現有技術中存在的問題。

第一方面，本公開實施例提供了一種模型同步更新方法，包括：

在利用第一卷積神經網絡模型的輸出數據訓練第一決策樹模型的同時，設置第二卷積神經網絡模型和第二決策樹模型，其中，所述第二卷積神經網絡模型與所述第一卷積神經網絡模型不同，所述第二決策樹模型與所述第一決策樹模型相同；

分別利用所述第一卷積神經網絡模型和所述第二卷積神經網絡模型的輸出數據來訓練所述第一決策樹模型和所述第二決策樹模型；

基于所述第一決策樹模型和所述第二決策樹模型訓練的結果，分別對所述第一決策樹模型和所述第二決策樹模型的性能指標進行評估，得到第一性能指標和第二性能指標；

基于所述第一性能指標與所述第二性能指標的比較結果，對所述第一卷積神經網絡模型或所述第二卷積神經網絡模型中的一個執行下線操作。

根據本公開實施例的一種具體實現方式，所述在利用第一卷積神經網絡模型的輸出數據訓練第一決策樹模型的同時，設置第二卷積神經網絡模型和第二決策樹模型，包括：

獲取新上線的與所述第一卷積神經網絡模型不同的卷積神經網絡模型；

將獲取到的所述新上線的卷積神經網絡模型作為所述第二卷積神經網絡模型。

根據本公開實施例的一種具體實現方式，所述在利用第一卷積神經網絡模型的輸出數據訓練第一決策樹模型的同時，設置第二卷積神經網絡模型和第二決策樹模型，包括：

將處于正在運行狀態的第一決策樹模型進行復制操作，生成復制的決策樹模型；

將所述復制的決策樹模型作為所述二決策樹模型。