[發明專利]一種數據標注中的數據保護方法及系統

有效

• 申請號: 202110467376.3
• 申請日: 2021-04-28
• 公開（公告）號: CN113111369B
• 公開（公告）日: 2022-08-12
• 發明（設計）人: 李幟;王爽;鄭灝;王帥
• 申請（專利權）人: 杭州锘崴信息科技有限公司
• 主分類號: G06F21/60
• 分類號: G06F21/60
• 代理公司: 北京中創云知識產權代理事務所(普通合伙) 11837
• 代理人: 肖佳

1.一種數據標注中的數據保護方法，其特征在于，包括步驟：

至少一個數據提供方對其提供的原始數據進行數據保護處理，包括：在原始數據中加入自然人無法識別且不影響標注操作的干擾信息和/或跟蹤信息，以形成用于標注的數據；

至少一個數據標注方對所述用于標注的數據進行標注，以形成標注數據，并建立原始數據和標注數據的對應關系；

將所述原始數據、標注數據對應的元數據、以及原始數據和標注數據的對應關系保存至標注管理中心的元數據庫中；

標注管理中心根據數據需求方的數據需求和算法需求，和元數據庫中的元數據進行匹配，以檢測是否能滿足數據需求方的要求；若匹配不成功，則通知數據提供方和數據標注方對數據進行處理，并重新匹配；若匹配成功，則協調各數據提供方和數據標注方提供原始數據以及標注數據以用于計算；

數據需求方從標注管理中心中選用已有算法或通過算法接入網關提交新的算法給標注管理中心；

利用所述原始數據以及標注數據在安全環境下計算得到計算結果；

將所述計算結果提供至數據需求方。

2.根據權利要求1所述的方法，其特征在于，還包括檢查步驟：

數據檢查方對原始數據和標注數據進行檢查，對標注數據的質量進行檢查，建立原始數據、標注數據和檢查數據的對應關系，并將所述檢查數據對應的元數據、以及所述對應關系保存至元數據庫中。

3.根據權利要求1或2所述的方法，其特征在于，各用戶端將其提供的數據保存在各自的數據庫中；所述用戶端包括數據提供方、數據標注方、數據檢查方和數據需求方。

4.根據權利要求3所述的方法，其特征在于，所述在原始數據中加入自然人無法識別且不影響標注操作的干擾信息，包括：

針對圖像和視頻數據，添加人為設計的擾動，以跨越深度神經網絡的決策邊界，以此構成對抗樣本，誤導深度神經網絡為基礎算法模型的應用；和/或

針對聲音數據，采用變聲變調方法對原始數據進行處理，和/或對聲音加入亞音頻進行處理；和/或

針對文本數據，將文本數據轉換為圖像數據，再采用針對圖像數據的處理方法進行處理。

5.根據權利要求4所述的方法，其特征在于，針對人臉的圖像和視頻數據，采用Fawkes方法對原始數據進行像素級別的修改。

6.根據權利要求5所述的方法，其特征在于，所述在原始數據中加入自然人無法識別且不影響標注操作的跟蹤信息，包括：

針對聲音數據，對聲音加入亞音頻進行處理；

針對圖像和視頻數據，采用頻域手段增加數字盲水印。

7.根據權利要求1所述的方法，其特征在于，在利用所述原始數據以及標注數據計算得到計算結果之前，還包括：

若數據需求方存在需要參與計算的數據，則將所述參與計算的數據的元數據提交至所述元數據庫；

對所述提交的數據進行檢測和審計，通過后進行計算；

所述計算包括在安全計算環境下，采用保護隱私的計算方法進行計算。