[發(fā)明專利]一種增強(qiáng)圖模型抗攻擊能力的方法和系統(tǒng)

在審

• 申請?zhí)枺?/td>: 202010105695.5
• 申請日: 2020-02-20
• 公開（公告）號: CN111309975A
• 公開（公告）日: 2020-06-19
• 發(fā)明（設(shè)計(jì)）人: 皇甫志剛;林建濱;任彥昆;梁琛
• 申請（專利權(quán)）人: 支付寶（杭州）信息技術(shù)有限公司
• 主分類號: G06F16/901
• 分類號: G06F16/901;G06K9/62
• 代理公司: 成都七星天知識產(chǎn)權(quán)代理有限公司 51253
• 代理人: 楊永梅

1.一種增強(qiáng)圖模型抗攻擊能力的方法，其中，所述方法包括：

獲取目標(biāo)圖數(shù)據(jù)，所述目標(biāo)圖數(shù)據(jù)包括第一點(diǎn)集V1以及邊集E；

任意生成n條邊的擾動邊集ΔE，其中，所述n條邊的節(jié)點(diǎn)構(gòu)成第二點(diǎn)集V2，所述n條邊的節(jié)點(diǎn)均存在于所述第一點(diǎn)集V1中；

從所述第二點(diǎn)集V2中任意選擇一個(gè)修正點(diǎn)；

從所述第一點(diǎn)集V1中任意選擇若干個(gè)點(diǎn)構(gòu)成所述修正點(diǎn)的候選目標(biāo)點(diǎn)集V3；

從所述候選目標(biāo)點(diǎn)集V3中選擇一個(gè)目標(biāo)點(diǎn)，并利用選擇的所述目標(biāo)點(diǎn)替換所述修正點(diǎn)，以更新所述擾動邊集ΔE得到擾動邊集ΔE′；

基于所述擾動邊集ΔE′調(diào)整所述邊集E得到調(diào)整后的目標(biāo)圖數(shù)據(jù)，在所述調(diào)整后的目標(biāo)圖數(shù)據(jù)輸入所述圖模型的輸出結(jié)果與對應(yīng)該輸出結(jié)果的真實(shí)結(jié)果之差的絕對值增大時(shí)，接受該次替換；

重復(fù)從所述第二點(diǎn)集V2中選擇修正點(diǎn)并迭代調(diào)整所述邊集E，得到對抗圖數(shù)據(jù)；

基于該對抗圖數(shù)據(jù)，調(diào)整所述圖模型，以增強(qiáng)所述圖模型的抗攻擊能力。

2.如權(quán)利要求1所述的方法，其中，所述n為所述邊集E中邊的數(shù)量的1％～5％。

3.如權(quán)利要求1所述的方法，其中，所述重復(fù)從所述第二點(diǎn)集V2中選擇修正點(diǎn)并迭代調(diào)整所述邊集E，得到對抗圖數(shù)據(jù)，包括：

重復(fù)執(zhí)行從所述第二點(diǎn)集V2中任意選擇一個(gè)修正點(diǎn)的步驟，至基于所述擾動邊集ΔE′調(diào)整所述邊集E的步驟，并在重復(fù)執(zhí)行所述步驟的次數(shù)大于或等于次數(shù)閾值時(shí)，將當(dāng)前得到的所述目標(biāo)圖數(shù)據(jù)作為所述對抗圖數(shù)據(jù)。

4.如權(quán)利要求1所述的方法，其中，所述基于所述擾動邊集ΔE′調(diào)整所述邊集E，包括：

對于所述擾動邊集ΔE中的每一邊，若所述邊集E中存在該邊，則從所述邊集E中刪除該邊；若所述邊集E中不存在該邊，則在所述邊集E中增加該邊。

5.如權(quán)利要求1所述的方法，其中，在所述調(diào)整后的目標(biāo)圖數(shù)據(jù)的損失函數(shù)值增大時(shí)，判定所述輸出結(jié)果與對應(yīng)該輸出結(jié)果的真實(shí)結(jié)果之差的絕對值增大，所述損失函數(shù)值為交叉熵，該交叉熵如下所示：

其中，L_f為所述交叉熵，G為所述目標(biāo)圖數(shù)據(jù)，v_i為所述目標(biāo)圖數(shù)據(jù)中的點(diǎn)，c用于表征所述點(diǎn)v_i的預(yù)測類別，y_c為指示變量，在所述點(diǎn)v_i的預(yù)測類別c與真實(shí)類別相同時(shí)，y_c為1，否則y_c為0，p_c為所述點(diǎn)v_i屬于所述預(yù)測類別c的預(yù)測概率，M為所述點(diǎn)v_i的預(yù)測類別c的數(shù)量。

6.如權(quán)利要求1所述的方法，其中，所述基于該對抗圖數(shù)據(jù)，調(diào)整所述圖模型，以增強(qiáng)所述圖模型的抗攻擊能力，包括：

將所述對抗圖數(shù)據(jù)輸入所述圖模型，得到與所述對抗圖數(shù)據(jù)中的每一點(diǎn)對應(yīng)的輸出，所述輸出用于表征該點(diǎn)屬于該輸出對應(yīng)類別的概率；

針對所述對抗圖數(shù)據(jù)中的同一點(diǎn)，若該點(diǎn)的所有所述輸出中的最大值對應(yīng)的類別與該點(diǎn)的真實(shí)類別不同，則判定該點(diǎn)對應(yīng)的攻擊成功；

針對所述對抗圖數(shù)據(jù)中的多個(gè)點(diǎn)，統(tǒng)計(jì)對應(yīng)于該多個(gè)點(diǎn)的所述攻擊的成功次數(shù)在所述攻擊的總次數(shù)中的比例，并基于該比例調(diào)整所述圖模型，以增強(qiáng)所述圖模型的抗攻擊能力。

7.如權(quán)利要求1所述的方法，其中，所述圖模型為用于對圖數(shù)據(jù)中的點(diǎn)進(jìn)行分類的模型，該圖數(shù)據(jù)中的節(jié)點(diǎn)用于表征實(shí)體對象。