[發明專利]歧視性樣本生成方法和電子設備在審
| 申請號： | 202010432834.5 | 申請日： | 2020-05-20 |
| 公開（公告）號： | CN113705764A | 公開（公告）日： | 2021-11-26 |
| 發明（設計）人： | 戴挺;李鐵巖;張培歆;孫軍 | 申請（專利權）人： | 華為技術有限公司;新加坡管理大學 |
| 主分類號： | G06N3/04 | 分類號： | G06N3/04;G06N3/08;G06K9/62 |
| 代理公司： | 北京中博世達專利商標代理有限公司 11274 | 代理人： | 張娜 |
| 地址： | 518129 廣東*** | 國省代碼： | 廣東;44 |
| 權利要求書： | 查看更多 | 說明書： | 查看更多 |
| 摘要： | |||
| 搜索關鍵詞： | 歧視 樣本 生成 方法 電子設備 | ||
1.一種歧視性樣本生成方法，其特征在于，包括：
根據樣本Ai的屬性集合中的第一屬性判斷所述樣本Ai是否是歧視性樣本，其中，所述屬性集合包括多個屬性，i為大于等于0的整數；
當所述樣本Ai不是歧視性樣本，且i≤N，根據所述樣本Ai的梯度對所述樣本Ai進行第一擾動處理，得到擾動后的樣本Ai+1；其中，N為預設的擾動門限值，所述樣本Ai為對第一樣本A0進行了i次所述第一擾動處理后的樣本；
當所述樣本Ai+1是歧視性樣本，根據所述樣本Ai+1生成多個歧視性樣本；
其中，所述歧視性樣本為：在樣本的所述第一屬性發生改變且除所述第一屬性以外的其他屬性不變時，輸入模型后得到的模型輸出結果發生改變的樣本。
2.根據權利要求1所述的方法，其特征在于，所述根據所述樣本Ai的梯度對所述樣本Ai進行所述第一擾動處理，得到擾動后的所述樣本Ai+1，包括：
根據所述樣本Ai獲取至少一個參考樣本Bi；其中，每個所述參考樣本Bi包括所述多個屬性，所述多個屬性包括所述第一屬性；在所述樣本Ai與所述參考樣本Bi的所述多個屬性中，所述第一屬性的值不同且除所述第一屬性以外的其他屬性的值相同；
從所述至少一個參考樣本Bi中獲取目標參考樣本Bi’，其中，在所述至少一個參考樣本Bi中，所述目標參考樣本Bi’的第一屬性的值與所述樣本Ai的第一屬性的值的差異值最大；
根據所述樣本Ai的梯度和所述目標參考樣本Bi’的梯度，從不包括所述第一屬性的所述屬性集合中確定第一擾動屬性和第一擾動方向；
根據所述第一擾動屬性和所述第一擾動方向，對所述樣本Ai進行所述第一擾動處理，得到擾動后的所述樣本Ai+1。
3.根據權利要求2所述的方法，其特征在于，所述目標參考樣本Bi’的第一屬性的值與所述樣本Ai的第一屬性的值的差異值最大，包括：
在所述至少一個參考樣本Bi中，所述目標參考樣本Bi’和所述樣本Ai輸入所述模型后得到的模型輸出結果所對應的置信值的差值的絕對值最大。
4.根據權利要求2或3所述的方法，其特征在于，所述根據所述樣本Ai的梯度和所述目標參考樣本Bi’的梯度，確定第一擾動屬性和第一擾動方向，包括：
從不包括所述第一屬性的所述屬性集合中確定所述樣本Ai的梯度和所述目標參考樣本Bi’的梯度中符號相同的屬性為所述第一擾動屬性；
若所述樣本Ai的梯度和所述目標參考樣本Bi’的梯度的符號均為正，則確定所述第一擾動屬性的第一擾動方向為使得所述第一擾動屬性的值增大的方向；
若所述樣本Ai的梯度和所述目標參考樣本Bi’的梯度的符號均為負，則確定所述第一擾動屬性的第一擾動方向為使得所述第一擾動屬性的值減小的方向。
5.根據權利要求2-4任一項所述的方法，其特征在于，在根據所述第一擾動屬性和所述第一擾動方向，對所述樣本Ai進行所述第一擾動處理，得到擾動后的所述樣本Ai+1之后，所述方法還包括：
若所述樣本Ai+1中的屬性的值不在預設輸入范圍內，則將所述樣本Ai+1中的所述屬性的值設置在預設輸入范圍內。
該專利技術資料僅供研究查看技術是否侵權等信息，商用須獲得專利權人授權。該專利全部權利屬于華為技術有限公司;新加坡管理大學，未經華為技術有限公司;新加坡管理大學許可，擅自商用是侵權行為。如果您想購買此專利、獲得商業授權和技術合作，請聯系【客服】
本文鏈接：http://www.szxzyx.cn/pat/books/202010432834.5/1.html，轉載請聲明來源鉆瓜專利網。
