[發明專利]數據保護方法、裝置、服務器和介質

有效

• 申請號: 202010640985.X
• 申請日: 2020-07-06
• 公開（公告）號: CN111783142B
• 公開（公告）日: 2021-10-08
• 發明（設計）人: 孫建凱;高偉豪;張宏毅;王崇;解浚源;吳良超;劉小兵
• 申請（專利權）人: 北京字節跳動網絡技術有限公司;字節跳動有限公司
• 主分類號: G06F21/62
• 分類號: G06F21/62;G06K9/62;G06N20/00
• 代理公司: 北京海智友知識產權代理事務所(普通合伙) 11455
• 代理人: 吳京順

本申請實施例公開了數據保護方法、裝置、服務器和介質。該方法的一具體實施方式包括：獲取屬于分布不均衡的二分類樣本集的目標樣本和與該目標樣本屬于同批次的參考樣本分別對應的梯度關聯信息；根據該目標樣本對應的梯度關聯信息與該參考樣本對應的梯度關聯信息的比較結果，生成待添加的數據噪聲的信息；根據該待添加的數據噪聲的信息對該目標樣本對應的初始梯度傳遞值進行修正，以使樣本集中屬于不同類別的樣本所對應的修正后的梯度傳遞信息一致；將該梯度傳遞信息發送至聯合訓練模型的被動參與方。該實施方式使得正負樣本對應的修正后的梯度傳遞信息沒有明顯差異，從而有力地保護了數據安全。

技術領域

本申請實施例涉及計算機技術領域，具體涉及數據保護方法、裝置、服務器和介質。

背景技術

隨著人工智能技術的發展，機器學習取得越來越廣泛的應用。近年來，為了保護數據安全和解決數據孤島的問題，相關的方式通常采用聯合訓練模型來實現在不暴露原始數據的前提下完成機器學習模型的共同訓練。針對有監督機器學習模型，通常將擁有樣本標簽的一方稱為主動參與方(active party)，將未擁有樣本標簽的一方稱為被動參與方(passive party)。主動參與方所擁有的樣本標簽是在聯合訓練模型中需要進行保護的重要數據之一。

發明內容

本申請實施例提出了數據保護方法、裝置、服務器和介質。

第一方面，本申請實施例提供了一種數據保護方法，該方法包括：獲取目標樣本和與目標樣本屬于同批次的參考樣本分別對應的梯度關聯信息，其中，目標樣本所屬的樣本集屬于分布不均衡的二分類樣本集；根據目標樣本對應的梯度關聯信息與參考樣本對應的梯度關聯信息的比較結果，生成待添加的數據噪聲的信息；根據待添加的數據噪聲的信息對目標樣本對應的初始梯度傳遞值進行修正，生成修正后的梯度傳遞信息，以使樣本集中屬于不同類別的樣本所對應的梯度傳遞信息一致，其中，初始梯度傳遞值用于指示根據目標樣本調整所訓練的聯合訓練模型；將梯度傳遞信息發送至聯合訓練模型的被動參與方，以使被動參與方根據梯度傳遞信息調整聯合訓練模型的參數。

在一些實施例中，上述梯度關聯信息包括用于表征樣本類別的樣本標簽和樣本預測概率，樣本預測概率用于表征樣本經過聯合訓練模型所得到的預測為預設類別標簽的概率，預設類別標簽包括樣本集中占比較小的樣本標簽，參考樣本包括樣本預測概率滿足預設概率條件且樣本標簽與預設類別標簽一致的樣本；以及上述根據目標樣本對應的梯度關聯信息與參考樣本對應的梯度關聯信息的比較結果，生成待添加的數據噪聲的信息，包括：根據目標樣本對應的樣本標簽是否與預設類別標簽一致，生成與目標樣本匹配的待添加的數據噪聲的標準差。

在一些實施例中，上述根據目標樣本對應的樣本標簽是否與預設類別標簽一致，生成與目標樣本匹配的待添加的數據噪聲的標準差，包括：響應于確定目標樣本對應的樣本標簽與預設類別標簽不一致，生成第一標準差作為與目標樣本匹配的待添加的數據噪聲的標準差，其中，第一標準差與目標樣本對應的樣本預測概率負相關。

在一些實施例中，上述根據目標樣本對應的樣本標簽是否與預設類別標簽一致，生成與目標樣本匹配的待添加的數據噪聲的標準差，包括：響應于確定目標樣本對應的樣本標簽與預設類別標簽一致且目標樣本對應的樣本預測概率大于參考樣本的樣本預測概率，生成第二標準差作為與目標樣本匹配的待添加的數據噪聲的標準差，其中，第二標準差與目標樣本對應的樣本預測概率正相關。

在一些實施例中，上述參考樣本包括與目標樣本同批次、且與預設類別標簽一致的樣本中樣本預測概率最小的樣本。

在一些實施例中，上述梯度關聯信息包括梯度模，梯度模用于指示樣本對應的損失函數對屬于被動參與方的模型部分的參數的梯度的模；以及上述根據目標樣本對應的梯度關聯信息與參考樣本對應的梯度關聯信息的比較結果，生成待添加的數據噪聲的信息，包括：響應于確定目標樣本對應的梯度模小于參考樣本的梯度模，生成第三標準差作為與目標樣本匹配的待添加的數據噪聲的標準差，其中，第三標準差與目標樣本對應的梯度模負相關。