[發明專利]模型訓練方法、裝置、設備和介質

在審

• 申請號: 201910579010.8
• 申請日: 2019-06-28
• 公開（公告）號: CN112149706A
• 公開（公告）日: 2020-12-29
• 發明（設計）人: 周旭輝;任兵;楊勝文;劉立萍
• 申請（專利權）人: 北京百度網訊科技有限公司
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06N3/04;G06N3/08;H04L9/00
• 代理公司: 北京品源專利代理有限公司 11332
• 代理人: 孟金喆

1.一種模型訓練方法，其特征在于，由第二方執行，所述方法包括：

基于待訓練的網絡模型對第二方擁有的特征數據進行預測得到第二方預測結果；

向第一方發送所述第二方預測結果，供第一方執行如下：根據擁有的標簽數據和所述第二方預測結果確定殘差原文，并對所述殘差原文進行同態加密得到殘差密文；

根據從所述第一方獲取的殘差密文和第二方擁有的特征數據，確定第二方梯度密文；

為所述第二方梯度密文添加擾動數據，得到第二方擾動梯度密文；

向第一方發送所述第二方擾動梯度密文，供第一方對所述第二方擾動梯度密文進行同態解密得到第二方擾動梯度；

根據從所述第一方獲取的第二方擾動梯度，繼續對第二方的網絡模型進行訓練。

2.根據權利要求1所述的方法，其特征在于，為所述第二方梯度密文添加擾動數據，得到第二方擾動梯度密文，包括：

為所述第二方梯度密文確定擾動原始值；

對所述擾動原始值進行同態加密，得到擾動密文；

根據所述第二方梯度密文和所述擾動密文，確定第二方擾動梯度密文。

3.根據權利要求2所述的方法，其特征在于，根據從所述第一方獲取的第二方擾動梯度，繼續對第二方的網絡模型進行訓練，包括：

根據所述擾動原始值，對從所述第二方獲取的第二方擾動梯度進行同態解密，得到第二方梯度原文；

根據所述第二方梯度原文，繼續對第二方的網絡模型進行訓練。

4.根據權利要求2所述的方法，其特征在于，所述擾動原始值的絕對值小于擾動閾值。

5.根據權利要求1所述的方法，其特征在于，根據從所述第一方獲取的殘差密文和第二方擁有的特征數據，確定第二方梯度密文，包括：

采用放大系數對第二方擁有的特征數據進行放大，得到特征放大數據；

根據從所述第一方獲取的殘差密文和所述特征放大數據，確定第二方梯度密文。

6.一種模型訓練方法，其特征在于，由第一方執行，所述方法包括：

根據擁有的標簽數據和從第二方獲取的第二方預測結果，確定殘差原文；其中，所述第二方預測結果由所述第二方基于待訓練的網絡模型對第二方擁有的特征數據進行預測得到的；

對所述殘差原文進行同態加密，得到殘差密文；

向所述第二方發送所述殘差密文，供所述第二方根據殘差密文和第二方擁有的特征數據，確定第二方梯度密文；

對從所述第二方獲取的第二方擾動梯度密文進行同態解密，得到第二方擾動梯度，其中，所述第二方擾動梯度密文由所述第二方為所述第二方梯度密文添加擾動數據得到；

向第二方發送所述第二方擾動梯度，供第二方根據所述第二方擾動梯度繼續對第二方的網絡模型進行訓練。

7.根據權利要求6所述的方法，其特征在于，根據擁有的標簽數據和從第二方獲取的第二方預測結果，確定殘差原文，包括：

基于待訓練的網絡模型對第一方擁有的特征數據進行預測，得到第一方預測結果；

根據所述第一方預測結果和從第二方獲取的第二方預測結果，確定綜合預測結果；

根據擁有的標簽數據和所述綜合預測結果，確定殘差原文。

8.根據權利要求6所述的方法，其特征在于，對所述殘差原文進行同態加密，包括：

對所述殘差原文進行同態加法加密。

9.根據權利要求6所述的方法，其特征在于，對所述殘差原文進行同態加密，包括：采用放大系數對所述殘差原文進行放大，得到放大殘差；對所述放大殘差進行同態加密；

相應地，對從所述第二方獲取的第二方擾動梯度密文進行同態解密，包括：

采用放大系數，對從所述第二方獲取的第二方擾動梯度密文進行同態解密，得到第二方擾動梯度。