[發明專利]在多個機器學習任務上訓練機器學習模型

在審

• 申請號: 201780054998.5
• 申請日: 2017-07-18
• 公開（公告）號: CN109690576A
• 公開（公告）日: 2019-04-26
• 發明（設計）人: G.戴士賈汀斯;R.帕斯卡努;R.T.哈德塞爾;J.柯克帕特里克;J.W.韋內斯;N.C.拉比諾維茨
• 申請（專利權）人: 淵慧科技有限公司
• 主分類號: G06N3/00
• 分類號: G06N3/00
• 代理公司: 北京市柳沈律師事務所 11105
• 代理人: 金玉潔

1.一種訓練具有多個參數的機器學習模型的方法，

其中，所述機器學習模型已經在第一機器學習任務上進行訓練以確定所述機器學習模型的參數的第一值，并且

其中，所述方法包括：

對于所述多個參數中的每一個參數，確定參數對所述機器學習模型在所述第一機器學習任務上實現可接受性能的重要性的相應度量；

獲得用于在第二、不同的機器學習任務上訓練所述機器學習模型的訓練數據；以及

通過在所述訓練數據上訓練所述機器學習模型，在所述第二機器學習任務上訓練所述機器學習模型以調節所述參數的第一值，使得所述機器學習模型在所述第二機器學習任務上實現可接受性能水平，同時在所述第一機器學習任務上保持可接受性能水平，

其中，在所述機器學習模型在所述第二機器學習任務上進行訓練期間，對所述機器學習模型在所述第一機器學習任務上實現可接受性能更為重要的參數的值比對所述機器學習模型在所述第一機器學習任務上實現可接受性能不太重要的參數的值受到更強的約束以不偏離所述第一值。

2.根據權利要求1所述的方法，其中，所述第一機器學習任務和所述第二機器學習任務是不同的監督學習任務。

3.根據權利要求1所述的方法，其中，所述第一機器學習任務和所述第二機器學習任務是不同的強化學習任務。

4.根據權利要求1至3中任一項所述的方法，其中，在所述訓練數據上訓練所述機器學習模型包括：

調節所述參數的第一值以使目標函數最優化，所述目標函數包括：

(i)第一項，度量所述機器學習模型在所述第二機器學習任務上的性能，和

(ii)第二項，對偏離所述第一參數值的參數值施加懲罰，其中，所述第二項對于對在所述第一機器學習任務上實現可接受性能更為重要的參數與所述第一值的偏差的懲罰比對在所述第一機器學習任務上實現可接受性能不太重要的參數更重。

5.根據權利要求4所述的方法，其中，對于所述訓練數據中的每個訓練示例，在所述訓練數據上訓練所述機器學習模型包括：

按照所述機器學習模型的參數的當前值，使用所述機器學習模型處理所述訓練示例以確定模型輸出；

使用所述模型輸出、所述訓練示例的目標輸出、所述機器學習模型的參數的當前值和所述機器學習模型的參數的第一值來確定所述目標函數的梯度；以及

使用所述梯度調節所述參數的當前值以使所述目標函數最優化。

6.根據權利要求4或5中任一項所述的方法，其中，對于所述多個參數中的每一個參數，所述第二項取決于所述參數的重要性的相應度量和所述參數的當前值與所述參數的第一值之間的差的乘積。

7.根據權利要求1至6中任一項所述的方法，其中，對于所述多個參數中的每一個參數，確定參數對所述機器學習模型在所述第一機器學習任務上實現可接受性能的重要性的相應度量包括：

對于所述多個參數中的每一個參數，在給定用于在所述第一任務上訓練所述機器學習模型的第一訓練數據的情況下，確定參數的當前值是參數的正確值的概率的近似值。

8.根據權利要求1至7中任一項所述的方法，其中，對于所述多個參數中的每一個參數，確定參數對所述機器學習模型在所述第一機器學習任務上實現可接受性能的重要性的相應度量包括：

確定所述機器學習模型的多個參數相對于所述第一機器學習任務的費歇爾信息矩陣FIM，其中，對于所述多個參數中的每一個參數，所述參數的重要性的相應度量是所述FIM對角線上的對應值。