[發(fā)明專利]對(duì)不可信的機(jī)器學(xué)習(xí)系統(tǒng)的主動(dòng)防御

在審

• 申請(qǐng)?zhí)枺?/td>: 201880098320.1
• 申請(qǐng)日: 2018-08-23
• 公開（公告）號(hào): CN112789634A
• 公開（公告）日: 2021-05-11
• 發(fā)明（設(shè)計(jì)）人: A·蓋達(dá)姆;A·葉爾馬克揚(yáng);P·喬葛蕾卡
• 申請(qǐng)（專利權(quán)）人: 維薩國(guó)際服務(wù)協(xié)會(huì)
• 主分類號(hào): G06N20/10
• 分類號(hào): G06N20/10;G06F21/55
• 代理公司: 上海專利商標(biāo)事務(wù)所有限公司 31100
• 代理人: 徐倩;錢慰民

1.一種方法，包括：

a)由數(shù)據(jù)處理器確定惡意計(jì)算機(jī)使用具有邊界函數(shù)的機(jī)器學(xué)習(xí)模型來確定結(jié)果；

b)由所述數(shù)據(jù)處理器生成意在使所述邊界函數(shù)偏移的轉(zhuǎn)換數(shù)據(jù)；

c)由所述數(shù)據(jù)處理器將所述轉(zhuǎn)換數(shù)據(jù)提供給所述惡意計(jì)算機(jī)；以及

d)由所述數(shù)據(jù)處理器重復(fù)步驟b)和c)，進(jìn)而使所述邊界函數(shù)隨時(shí)間偏移。

2.根據(jù)權(quán)利要求1所述的方法，進(jìn)一步包括：

由所述數(shù)據(jù)處理器生成正常數(shù)據(jù)；

由所述數(shù)據(jù)處理器將所述正常數(shù)據(jù)提供給所述惡意計(jì)算機(jī)；以及

由所述數(shù)據(jù)處理器確定所述惡意計(jì)算機(jī)的所述機(jī)器學(xué)習(xí)模型的特性。

3.根據(jù)權(quán)利要求2所述的方法，其中所述機(jī)器學(xué)習(xí)模型的所述特性包括：不同訓(xùn)練數(shù)據(jù)點(diǎn)的群集之間的分離、所述邊界函數(shù)的估計(jì)，或分配給所述正常數(shù)據(jù)的多個(gè)標(biāo)記。

4.根據(jù)權(quán)利要求3所述的方法，其中所述機(jī)器學(xué)習(xí)模型為支持向量機(jī)，其中所述邊界函數(shù)為超平面，并且其中所述超平面使多個(gè)分類分離。

5.根據(jù)權(quán)利要求4所述的方法，其中所述多個(gè)標(biāo)記與所述多個(gè)分類相關(guān)聯(lián)。

6.根據(jù)權(quán)利要求5所述的方法，其中所述邊界函數(shù)發(fā)生偏移，從而使所述多個(gè)分類偏移。

7.根據(jù)權(quán)利要求2所述的方法，其中生成所述正常數(shù)據(jù)進(jìn)一步包括：

由所述數(shù)據(jù)處理器從數(shù)據(jù)源檢取所述正常數(shù)據(jù)；以及

由所述數(shù)據(jù)處理器對(duì)所述正常數(shù)據(jù)進(jìn)行分類。

8.根據(jù)權(quán)利要求1所述的方法，其中所述轉(zhuǎn)換數(shù)據(jù)包括共享屬于多于一個(gè)分類的數(shù)據(jù)的特性的數(shù)據(jù)項(xiàng)。

9.根據(jù)權(quán)利要求1所述的方法，其中提供所述轉(zhuǎn)換數(shù)據(jù)進(jìn)一步包括：

由所述數(shù)據(jù)處理器將所述轉(zhuǎn)換數(shù)據(jù)提供給數(shù)據(jù)源，其中所述惡意計(jì)算機(jī)從所述數(shù)據(jù)源檢取所述轉(zhuǎn)換數(shù)據(jù)。

10.根據(jù)權(quán)利要求1所述的方法，其中所述機(jī)器學(xué)習(xí)模型包括：線性回歸、邏輯回歸、決策樹、支持向量機(jī)、樸素貝葉斯、kNN、K均值或隨機(jī)森林。

11.一種數(shù)據(jù)處理器，包括：

處理器；

存儲(chǔ)器裝置；以及

計(jì)算機(jī)可讀介質(zhì)，其耦合到所述處理器，所述計(jì)算機(jī)可讀介質(zhì)包括能由所述處理器執(zhí)行以實(shí)施方法的代碼，所述方法包括：

a)確定惡意計(jì)算機(jī)使用具有邊界函數(shù)的機(jī)器學(xué)習(xí)模型來確定結(jié)果；

b)生成意在使所述邊界函數(shù)偏移的轉(zhuǎn)換數(shù)據(jù)；

c)將所述轉(zhuǎn)換數(shù)據(jù)提供給所述惡意計(jì)算機(jī)；以及

d)重復(fù)步驟b)和c)，進(jìn)而使所述邊界函數(shù)隨時(shí)間偏移。

12.根據(jù)權(quán)利要求11所述的數(shù)據(jù)處理器，其中所述方法進(jìn)一步包括：

生成正常數(shù)據(jù)；

將所述正常數(shù)據(jù)提供給所述惡意計(jì)算機(jī)；以及

確定所述惡意計(jì)算機(jī)的所述機(jī)器學(xué)習(xí)模型的特性。

13.根據(jù)權(quán)利要求12所述的數(shù)據(jù)處理器，其中所述機(jī)器學(xué)習(xí)模型的所述特性包括：不同訓(xùn)練數(shù)據(jù)點(diǎn)的群集之間的分離、所述邊界函數(shù)的估計(jì)，或分配給所述正常數(shù)據(jù)的多個(gè)標(biāo)記。

14.根據(jù)權(quán)利要求13所述的數(shù)據(jù)處理器，其中所述機(jī)器學(xué)習(xí)模型為支持向量機(jī)，其中所述邊界函數(shù)為超平面，并且其中所述超平面使多個(gè)分類分離。

15.根據(jù)權(quán)利要求14所述的數(shù)據(jù)處理器，其中所述多個(gè)標(biāo)記與所述多個(gè)分類相關(guān)聯(lián)。

16.根據(jù)權(quán)利要求15所述的數(shù)據(jù)處理器，其中所述邊界函數(shù)發(fā)生偏移，從而使所述多個(gè)分類偏移。