[發(fā)明專利]預(yù)測模型的訓練方法、裝置、設(shè)備和存儲介質(zhì)

在審

• 申請?zhí)枺?/td>: 202110424701.8
• 申請日: 2021-04-20
• 公開（公告）號: CN113762501A
• 公開（公告）日: 2021-12-07
• 發(fā)明（設(shè)計）人: 易修文;段哲文
• 申請（專利權(quán)）人: 京東城市（北京）數(shù)字科技有限公司
• 主分類號: G06N3/08
• 分類號: G06N3/08;G06Q10/04
• 代理公司: 北京清亦華知識產(chǎn)權(quán)代理事務(wù)所(普通合伙) 11201
• 代理人: 王萌

1.一種預(yù)測模型的訓練方法，其特征在于，包括以下步驟：

獲取多個源域數(shù)據(jù)；其中，所述多個源域數(shù)據(jù)包括源標簽；

將所述多個源域數(shù)據(jù)輸入神經(jīng)網(wǎng)絡(luò)進行訓練，獲取第一預(yù)測結(jié)果，根據(jù)所述第一預(yù)測結(jié)果和所述源標簽調(diào)整所述神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)參數(shù)，以生成預(yù)訓練模型；

獲取目標域數(shù)據(jù)，其中，所述目標域數(shù)據(jù)包括目標標簽；

將所述目標域數(shù)據(jù)輸入所述預(yù)訓練模型進行訓練，獲取第二預(yù)測結(jié)果，根據(jù)所述第二預(yù)測結(jié)果和所述目標標簽調(diào)整所述預(yù)訓練模型的網(wǎng)絡(luò)參數(shù)，以生成目標域的預(yù)測模型。

2.如權(quán)利要求1所述的方法，其特征在于，所述將所述多個源域數(shù)據(jù)輸入神經(jīng)網(wǎng)絡(luò)進行訓練，獲取第一預(yù)測結(jié)果，包括：

通過所述神經(jīng)網(wǎng)絡(luò)的特征提取網(wǎng)絡(luò)對所述多個源域數(shù)據(jù)進行處理，以生成多個源域特征；

通過所述神經(jīng)網(wǎng)絡(luò)的獨立子網(wǎng)絡(luò)和多個特有子網(wǎng)絡(luò)分別對所述多個源域特征進行處理，以生成源域共享特征和多個源域特有特征；

將所述源域共享特征和每個所述源域特有特征進行拼接后輸入預(yù)測器，獲取所述第一預(yù)測結(jié)果。

3.如權(quán)利要求1所述的方法，其特征在于，所述將所述目標域數(shù)據(jù)輸入所述預(yù)訓練模型進行訓練，獲取第二預(yù)測結(jié)果，包括：

通過所述預(yù)訓練模型的特征提取網(wǎng)絡(luò)對所述目標域數(shù)據(jù)進行處理，以生成目標域特征；

通過所述預(yù)訓練模型的目標域源域記憶網(wǎng)絡(luò)、獨立子網(wǎng)絡(luò)和特有子網(wǎng)絡(luò)分別對所述目標域特征進行處理，以生成目標域源域共享特征和目標域特有特征；

將所述目標域源域相關(guān)特征、所述目標域共享特征和每個所述目標域特有特征進行拼接后輸入預(yù)測器，獲取所述第二預(yù)測結(jié)果。

4.如權(quán)利要求1-3任一項所述的方法，其特征在于，通過所述預(yù)訓練模型的目標域源域記憶網(wǎng)絡(luò)和特有子網(wǎng)絡(luò)對所述目標域特征進行處理，以生成所述目標域源域共享特征，包括：

所述目標域源域記憶網(wǎng)絡(luò)對所述目標域特征進行處理，獲取源域目標域歷史相關(guān)特征；

所述特有子網(wǎng)絡(luò)的記憶網(wǎng)絡(luò)對所述目標域特征進行檢索，獲取多個記憶表達特征；

根據(jù)所述源域目標域歷史相關(guān)特征和所述多個記憶表達特征進行計算，獲取所述目標域源域共享特征。

5.如權(quán)利要求4所述的方法，其特征在于，所述特有子網(wǎng)絡(luò)的記憶網(wǎng)絡(luò)對所述目標域特征進行檢索，獲取多個記憶表達特征，包括：

對所述目標域特征與所述記憶網(wǎng)絡(luò)中每個記憶單元進行相似度計算，獲取多個相似度；

根據(jù)每個所述相似度和已存儲記憶特征矩陣進行計算，以生成所述多個記憶表達特征。

6.一種預(yù)測模型的訓練裝置，其特征在于，包括：

第一獲取模塊，用于獲取多個源域數(shù)據(jù)；其中，所述多個源域數(shù)據(jù)包括源標簽；

第一訓練模塊，用于將所述多個源域數(shù)據(jù)輸入神經(jīng)網(wǎng)絡(luò)進行訓練，獲取第一預(yù)測結(jié)果；

第一生成模塊，用于根據(jù)所述第一預(yù)測結(jié)果和所述源標簽調(diào)整所述神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)參數(shù)，以生成預(yù)訓練模型；

第二獲取模塊，用于獲取目標域數(shù)據(jù)，其中，所述目標域數(shù)據(jù)包括目標標簽；

第二訓練模塊，用于將所述目標域數(shù)據(jù)輸入所述預(yù)訓練模型進行訓練，獲取第二預(yù)測結(jié)果；

第二生成模塊，用于根據(jù)所述第二預(yù)測結(jié)果和所述目標標簽調(diào)整所述預(yù)訓練模型的網(wǎng)絡(luò)參數(shù)，以生成目標域的預(yù)測模型。

7.如權(quán)利要求6所述的裝置，其特征在于，所述第一訓練模塊，具體用于：

通過所述神經(jīng)網(wǎng)絡(luò)的特征提取網(wǎng)絡(luò)對所述多個源域數(shù)據(jù)進行處理，以生成多個源域特征；

通過所述神經(jīng)網(wǎng)絡(luò)的獨立子網(wǎng)絡(luò)和多個特有子網(wǎng)絡(luò)分別對所述多個源域特征進行處理，以生成源域共享特征和多個源域特有特征；

將所述源域共享特征和每個所述源域特有特征進行拼接后輸入預(yù)測器，獲取所述第一預(yù)測結(jié)果。