[發明專利]數據保護方法、裝置、服務器和介質

有效

• 申請號: 202010640985.X
• 申請日: 2020-07-06
• 公開（公告）號: CN111783142B
• 公開（公告）日: 2021-10-08
• 發明（設計）人: 孫建凱;高偉豪;張宏毅;王崇;解浚源;吳良超;劉小兵
• 申請（專利權）人: 北京字節跳動網絡技術有限公司;字節跳動有限公司
• 主分類號: G06F21/62
• 分類號: G06F21/62;G06K9/62;G06N20/00
• 代理公司: 北京海智友知識產權代理事務所(普通合伙) 11455
• 代理人: 吳京順

1.一種數據保護方法，包括：

獲取目標樣本和與所述目標樣本屬于同批次的參考樣本分別對應的梯度關聯信息，其中，所述目標樣本所屬的樣本集屬于分布不均衡的二分類樣本集，所述梯度關聯信息包括用于表征樣本類別的樣本標簽和樣本預測概率，所述樣本預測概率用于表征樣本經過聯合訓練模型所得到的預測為預設類別標簽的概率，所述預設類別標簽包括所述樣本集中占比較小的樣本標簽，所述參考樣本包括樣本預測概率滿足預設概率條件且樣本標簽與所述預設類別標簽一致的樣本；

響應于確定所述目標樣本對應的樣本標簽與所述預設類別標簽不一致，生成第一標準差作為與所述目標樣本匹配的待添加的數據噪聲的標準差，其中，所述第一標準差與所述目標樣本對應的樣本預測概率負相關；

根據所述待添加的數據噪聲的信息對所述目標樣本對應的初始梯度傳遞值進行修正，生成修正后的梯度傳遞信息，以使所述樣本集中屬于不同類別的樣本所對應的梯度傳遞信息一致，其中，所述初始梯度傳遞值用于指示根據所述目標樣本調整所訓練的聯合訓練模型；

將所述梯度傳遞信息發送至所述聯合訓練模型的被動參與方，以使所述被動參與方根據所述梯度傳遞信息調整所述聯合訓練模型的參數。

2.根據權利要求1所述的方法，其中，在所述根據所述待添加的數據噪聲的信息對所述目標樣本對應的初始梯度傳遞值進行修正，生成修正后的梯度傳遞信息之前，所述方法還包括：

響應于確定所述目標樣本對應的樣本標簽與所述預設類別標簽一致且所述目標樣本對應的樣本預測概率大于所述參考樣本的樣本預測概率，生成第二標準差作為與所述目標樣本匹配的待添加的數據噪聲的標準差，其中，所述第二標準差與所述目標樣本對應的樣本預測概率正相關。

3.根據權利要求1-2之一所述的方法，其中，所述參考樣本包括與所述目標樣本同批次、且與所述預設類別標簽一致的樣本中樣本預測概率最小的樣本。

4.一種數據保護方法，包括：

獲取目標樣本和與所述目標樣本屬于同批次的參考樣本分別對應的梯度關聯信息，其中，所述目標樣本所屬的樣本集屬于分布不均衡的二分類樣本集，所述梯度關聯信息包括梯度模，所述梯度模用于指示樣本對應的損失函數對屬于被動參與方的模型部分的參數的梯度的模；

響應于確定所述目標樣本對應的梯度模小于所述參考樣本的梯度模，生成第三標準差作為與所述目標樣本匹配的待添加的數據噪聲的標準差，其中，所述第三標準差與所述目標樣本對應的梯度模負相關；

根據所述待添加的數據噪聲的信息對所述目標樣本對應的初始梯度傳遞值進行修正，生成修正后的梯度傳遞信息，以使所述樣本集中屬于不同類別的樣本所對應的梯度傳遞信息一致，其中，所述初始梯度傳遞值用于指示根據所述目標樣本調整所訓練的聯合訓練模型；

將所述梯度傳遞信息發送至所述聯合訓練模型的被動參與方，以使所述被動參與方根據所述梯度傳遞信息調整所述聯合訓練模型的參數。

5.根據權利要求4所述的方法，其中，所述參考樣本包括與所述目標樣本同批次的樣本中梯度模最大的樣本。