[發明專利]基于多任務學習的數據分流訓練方法及系統

在審

• 申請號: 202110186976.2
• 申請日: 2021-02-07
• 公開（公告）號: CN112801203A
• 公開（公告）日: 2021-05-14
• 發明（設計）人: 郭景耀;周有喜;喬國坤
• 申請（專利權）人: 新疆愛華盈通信息技術有限公司
• 主分類號: G06K9/62
• 分類號: G06K9/62
• 代理公司: 深圳市嘉勤知識產權代理有限公司 44651
• 代理人: 何龍其

本申請公開一種基于多任務學習的數據分流訓練方法，包括：獲取至少一個任務的數據集；分別從各個所述數據集中迭代出具有不同數據的數據包，每個所述數據包至少表示對應數據集的領域場景下的一個子領域場景，且包含的數據小于所述數據集的數據；將所有數據包按照預定規則進行拼接，組成數據拼接集；將所述數據拼接集作為樣本同批次輸入預先構建的共享層；接收所述共享層輸出的計算結果，并根據所述數據包對所述計算結果進行分離，得到不同子領域場景樣本對應的分離結果；將所述分離結果輸入至不同的學習任務進行學習，并完成損失計算及反向傳播更新參數運算。

技術領域

本申請涉及圖像處理技術領域，具體涉及一種基于多任務學習的數據分流訓練方法及系統。

背景技術

在圖像分類中，通常會采用多任務學習的方式，來使模型不只局限于一個目標任務的學習，而使得模型能夠適應多個任務的場景，這樣可以有效提高圖像分類模型的泛函能力。

目前在圖像分類模型中，常用的多任務學習訓練方式，在訓練過程中，需要通過相同樣本在不同任務中做預測結果和損失計算，再統一更新網絡參數。

但是，由于圖像分類模型的訓練，在多任務學習中，是采用了相同的數據集作為樣本，而同一數據集具有特定的場景領域，這就使得多任務學習之間的場景領域跨度不大，使得訓練出的圖像分類模型的泛化能力較低。

發明內容

鑒于此，本申請提供一種基于多任務學習的數據分流訓練方法及系統，以解決現有的圖像分類模型的訓練，在多任務學習中，是采用了相同的樣本，這就使得多任務之間的場景領域跨度不大，使得訓練出的圖像分類模型的泛化能力較低的問題。

本申請提供的一種基于多任務學習的數據分流訓練方法，包括：獲取至少一個任務的數據集；分別從各個所述數據集中迭代出具有不同數據的數據包，每個所述數據包至少表示對應數據集的領域場景下的一個子領域場景，且包含的數據小于所述數據集的數據；將所有數據包按照預定規則進行拼接，組成數據拼接集；將所述數據拼接集作為樣本同批次輸入預先構建的共享層；接收所述共享層輸出的計算結果，并根據所述數據包對所述計算結果進行分離，得到不同子領域場景樣本對應的分離結果；將所述分離結果輸入至不同的學習任務進行學習，并完成損失計算及反向傳播更新參數運算。

其中，所述方法還包括：調整所述數據包的大小，以固定所述數據包能夠包含的數據總量。

其中，調整所述數據包的大小包括：獲取訓練設備為學習任務分配的資源，并根據所述資源及學習任務的任務數量調整所述數據包的大小，或者，獲取所述數據集的大小的權重占比、不同學習任務的權重占比，根據所述數據集的大小的權重占比及所述不同學習任務的權重占比加權調整每個數據包的大小。

其中，所述共享層至少有兩層。

其中，所述共享層為網絡共享隱藏層。

其中，所述方法還包括：利用預先訓練的數據篩選模型對所述數據集中的數據進行篩選；所述數據篩選模型的訓練方法包括：構建輸入層，用于接收所述數據集；構建與所述輸入層連接的卷積層；構建與所述卷積層連接的區域提取網絡層；構建與所述卷積層、區域提取網絡層連接的池化層；構建與所述池化層連接的分類層，分類層用于將數據集內的數據分為可用數據及不可用數據；利用具有可用或不可用標簽的數據對所述數據篩選模型進行訓練。

其中，所述損失計算包括：邏輯回歸計算及對比損失計算。

本申請上述的基于多任務學習的數據分流訓練方法，通過將數據集迭代成不同領域場景的數據包，能夠將本是一個領域場景的數據集細分為不同的領域場景，從而在進行共享層的計算后，能夠為學習任務提供不同領域場景的樣本，且還分離出了不同領域場景的樣本對應的分離結果，從而在使用同批次的數據集的情況下，使用不同場景領域數據包及其對應的分離結果進行學習任務，增加了學習任務的領域場景的跨度，因此也增強了使用多任務學習訓練出的圖像分類模型的泛化能力。