[發明專利]一種基于特征選擇的模型訓練方法、裝置以及設備

在審

• 申請號: 202211275449.X
• 申請日: 2022-10-14
• 公開（公告）號: CN115841016A
• 公開（公告）日: 2023-03-24
• 發明（設計）人: 陳忠德;吳睿澤;姜聰;李弘慧;董鑫;龍璨;何勇;程磊;莫林劍
• 申請（專利權）人: 支付寶（杭州）信息技術有限公司
• 主分類號: G06F30/20
• 分類號: G06F30/20;G06F119/02
• 代理公司: 北京君慧知識產權代理事務所(普通合伙) 11716
• 代理人: 肖鵬

本說明書實施例公開了一種基于特征選擇的模型訓練方法、裝置以及設備。通過獲取所述M個任務的共享特征Z；針對第k個任務，根據所述共享特征Z確定特征對于任務的權重向量，根據所述共享特征和所述權重向量確定第k個任務的第一預測結果；針對第i個特征，將所述共享特征Z中的第i行替換為預設值，生成修改后的共享特征，根據所述修改后的共享特征確定第k個任務的第二預測結果；根據所述第一預測結果和所述第二預測結果的差異確定第i個特征對于第k個任務的因果效應因子；確定所述因果效應因子和所述權重向量的差異，根據所述差異生成損失值對所述多任務模型進行訓練，從而實現在訓練過程中為每個任務選擇性地學習具有因果關系的特征。

技術領域

本說明書涉及互聯網技術領域，尤其涉及一種基于特征選擇的模型訓練方法、裝置以 及設備。

背景技術

在多任務模型中，由于各任務之間共享所有特征而不區分它們對各個任務的有用性， 這樣一來，一些任務會受到對其他任務有用但對其無用的特征的影響，從而導致負遷移的 產生導致模型效果下降。同時，采用常規方式在計算任務和特征之間的相關性時，由于特 征和任務目標之間的可能存在潛在的混雜，而有可能表現出虛假的相關性，這同樣也會導 致負遷移現象。

基于此，需要一種可以準確表達特征和任務之間的因果性的模型訓練方案。

發明內容

本說明書實施例提供一種基于特征選擇的模型訓練方法、裝置、設備以及存儲介質， 用以解決如下技術問題：需要一種可以準確表達特征和任務之間的因果性的模型訓練方案。

為解決上述技術問題，本說明書一個或多個實施例是這樣實現的：

在第一方面，本說明書實施例提供一種基于特征選擇的模型訓練方法，應用于包含N 個特征和M個任務的多任務模型中，N和M為大于1的自然數，所述方法包括：獲取所述 M個任務的共享特征Z，其中，所述Z的大小為N*M，每一行對應一個特征；針對第k個 任務，根據所述共享特征Z確定特征對于任務的權重向量α^k，根據所述共享特征Z和所述 權重向量α^k確定第k個任務的第一預測結果其中，1≤k≤M；針對第i個特征，將所 述共享特征Z中的第i行替換為預設值，生成修改后的共享特征Z_-i，根據所述修改后的共 享特征Z_-i確定第k個任務的第二預測結果/其中，1≤i≤N；根據所述第一預測結果和 所述第二預測結果的差異確定第i個特征對于第k個任務的因果效應因子/確定所述因 果效應因子/和所述權重向量α^k的差異，根據所述差異生成損失值對所述多任務模型進 行訓練。

在第二方面，本說明書實施例提供一種基于特征選擇的模型訓練裝置，應用于包含N 個特征和M個任務的多任務模型中，N和M為大于1的自然數，所述裝置包括：獲取模塊，獲取所述M個任務的共享特征Z，其中，所述Z的大小為N*M，每一行對應一個特征；第 一預測模塊，針對第k個任務，根據所述共享特征Z確定特征對于任務的權重向量α^k，根 據所述共享特征Z和所述權重向量α^k確定第k個任務的第一預測結果其中，1≤k≤M； 第二預測模塊，針對第i個特征，將所述共享特征Z中的第i行替換為預設值，生成修改后 的共享特征Z_-i，根據所述修改后的共享特征Z_-i確定第k個任務的第二預測結果/其中， 1≤i≤N；因果效應因子模塊，根據所述第一預測結果和所述第二預測結果的差異確定第i 個特征對于第k個任務的因果效應因子/融合訓練模塊，確定所述因果效應因子/和 所述權重向量α^k的差異，根據所述差異生成損失值對所述多任務模型進行訓練。

在第三方面，本說明書實施例提供一種電子設備，包括：

至少一個處理器；以及，

與所述至少一個處理器通信連接的存儲器；其中，