[發(fā)明專利]獲取跨域?qū)W習(xí)模型的方法及裝置

在審

• 申請?zhí)枺?/td>: 202210581106.X
• 申請日: 2022-05-26
• 公開（公告）號: CN115115901A
• 公開（公告）日: 2022-09-27
• 發(fā)明（設(shè)計）人: 呂芳蕊;梁健;劉迪
• 申請（專利權(quán)）人: 阿里巴巴（中國）有限公司
• 主分類號: G06V10/774
• 分類號: G06V10/774;G06V10/764;G06V10/80;G06V10/42
• 代理公司: 北京眾達(dá)德權(quán)知識產(chǎn)權(quán)代理有限公司 11570
• 代理人: 袁媛

1.一種獲取跨域?qū)W習(xí)模型的方法，其特征在于，該方法包括：

獲取來源于多個源域的訓(xùn)練數(shù)據(jù)；

將來源于其中一部分源域的訓(xùn)練數(shù)據(jù)作為元訓(xùn)練數(shù)據(jù)，將來源于另一部分源域的訓(xùn)練數(shù)據(jù)作為元測試數(shù)據(jù)；

利用所述元訓(xùn)練數(shù)據(jù)和所述元測試數(shù)據(jù)訓(xùn)練所述跨域?qū)W習(xí)模型，訓(xùn)練目標(biāo)包括第一訓(xùn)練目標(biāo)和第二訓(xùn)練目標(biāo)；所述第一訓(xùn)練目標(biāo)為：利用所述元訓(xùn)練數(shù)據(jù)訓(xùn)練得到的跨域?qū)W習(xí)模型在所述元測試數(shù)據(jù)上的收益符合凸博弈的超模性；所述第二訓(xùn)練目標(biāo)為：所述跨域?qū)W習(xí)模型針對所述元訓(xùn)練數(shù)據(jù)和元測試數(shù)據(jù)的輸出結(jié)果符合預(yù)期；

訓(xùn)練得到的跨域?qū)W習(xí)模型用以對來源于目標(biāo)域的輸入數(shù)據(jù)進(jìn)行分析和預(yù)測，輸出預(yù)測結(jié)果，所述目標(biāo)域為所述多個源域中的一個或者為除了所述多個源域之外的其他領(lǐng)域。

2.根據(jù)權(quán)利要求1所述的方法，其特征在于，在所述將來源于其中一部分源域的訓(xùn)練數(shù)據(jù)作為元訓(xùn)練數(shù)據(jù)，將來源于另一部分源域的訓(xùn)練數(shù)據(jù)作為元測試數(shù)據(jù)之前，還包括：

對所述來源于多個源域的訓(xùn)練數(shù)據(jù)分別進(jìn)行傅立葉增廣，得到增廣后各源域的訓(xùn)練數(shù)據(jù)。

3.根據(jù)權(quán)利要求1所述的方法，其特征在于，該方法還包括：利用所述元訓(xùn)練數(shù)據(jù)構(gòu)造第一數(shù)據(jù)集合和第二數(shù)據(jù)集合，并獲取所述第一數(shù)據(jù)集合和所述第二數(shù)據(jù)集合的交集作為第三數(shù)據(jù)集合，獲取所述第一數(shù)據(jù)集合和所述第二數(shù)據(jù)集合的并集作為第四數(shù)據(jù)集合；

利用所述元訓(xùn)練數(shù)據(jù)和所述元測試數(shù)據(jù)訓(xùn)練所述跨域?qū)W習(xí)模型包括：分別利用所述第一數(shù)據(jù)集合、第二數(shù)據(jù)集合、第三數(shù)據(jù)集合和第四數(shù)據(jù)集合對所述跨域?qū)W習(xí)模型進(jìn)行元訓(xùn)練，得到第一模型參數(shù)、第二模型參數(shù)、第三模型參數(shù)和第四模型參數(shù)；分別獲取所述元測試數(shù)據(jù)在所述第一模型參數(shù)、第二模型參數(shù)、第三模型參數(shù)和第四模型參數(shù)上對應(yīng)的第一損失函數(shù)值、第二損失函數(shù)值、第三損失函數(shù)值和第四損失函數(shù)值；

所述第一訓(xùn)練目標(biāo)包括：最小化所述第三損失函數(shù)值與第四損失函數(shù)值之和減去所述第一損失函數(shù)與第二損失函數(shù)值之和所得到的差值。

4.根據(jù)權(quán)利要求1、2或3所述的方法，其特征在于，所述訓(xùn)練包括：

在每一輪迭代中確定總損失函數(shù)的取值，利用總損失函數(shù)的取值更新模型參數(shù)，直至滿足預(yù)設(shè)的訓(xùn)練結(jié)束條件；

其中所述總損失函數(shù)是對第五損失函數(shù)和第六損失函數(shù)進(jìn)行加權(quán)求和后得到的，所述第五損失函數(shù)是依據(jù)所述第一訓(xùn)練目標(biāo)預(yù)先構(gòu)建的，所述第六損失函數(shù)是依據(jù)所述第二訓(xùn)練目標(biāo)預(yù)先構(gòu)建的。

5.根據(jù)權(quán)利要求1所述的方法，其特征在于，該方法還包括：

確定所述訓(xùn)練數(shù)據(jù)對所述第一訓(xùn)練目標(biāo)的貢獻(xiàn)度評分；

從所述訓(xùn)練數(shù)據(jù)中刪除貢獻(xiàn)度評分滿足預(yù)設(shè)低質(zhì)量評分標(biāo)準(zhǔn)的訓(xùn)練數(shù)據(jù)；

利用所述刪除的處理之后得到的訓(xùn)練數(shù)據(jù)更新模型參數(shù)用以實現(xiàn)所述第二訓(xùn)練目標(biāo)。

6.根據(jù)權(quán)利要求5所述的方法，其特征在于，確定所述訓(xùn)練樣本對所述第一訓(xùn)練目標(biāo)的貢獻(xiàn)度評分包括：

利用第五損失函數(shù)對訓(xùn)練樣本的梯度與該訓(xùn)練樣本的特征表示的乘積，確定該訓(xùn)練樣本對所述第一訓(xùn)練目標(biāo)的貢獻(xiàn)度評分；其中，所述第五損失函數(shù)是依據(jù)所述第一訓(xùn)練目標(biāo)預(yù)先構(gòu)建的。

7.根據(jù)權(quán)利要求1至6中任一項所述的方法，其特征在于，所述多個源域的訓(xùn)練數(shù)據(jù)包括：多個領(lǐng)域的圖像及其分類標(biāo)簽，所述跨域?qū)W習(xí)模型為圖像識別模型；或者，

所述多個源域的訓(xùn)練數(shù)據(jù)包括：多個國家的用戶以及用戶關(guān)注的推廣數(shù)據(jù)，所述跨域?qū)W習(xí)模型為信息推薦模型。