[發明專利]優化風險檢測模型的方法及裝置

有效

• 申請號: 202011147798.4
• 申請日: 2020-10-23
• 公開（公告）號: CN112200380B
• 公開（公告）日: 2023-07-25
• 發明（設計）人: 李輝;李勇鋒;金宏;王維強;宋樂
• 申請（專利權）人: 支付寶（杭州）信息技術有限公司
• 主分類號: G06Q10/04
• 分類號: G06Q10/04;G06Q10/0635;G06Q10/067;G06N20/00
• 代理公司: 北京億騰知識產權代理事務所(普通合伙) 11309
• 代理人: 陳霽;周良玉

本說明書實施例提供一種優化風險檢測模型的方法和裝置，該方法包括，首先獲取樣本集，其中包括具有第一標簽值的正常樣本和具有第二標簽值的原始風險樣本。對于各個原始風險樣本，根據訓練風險檢測模型使用的損失函數以及當前的風險檢測模型，確定攻擊者對該原始風險樣本進行潛在攻擊變換而得到的對抗風險樣本。然后基于損失函數，確定風險檢測模型針對各個對抗風險樣本的第一預測損失，以及針對各個正常樣本的第二預測損失；并至少基于該第一和第二預測損失，確定總預測損失。接著，以總預測損失最小化為目標，調整風險檢測模型的模型參數，以優化該風險檢測模型。

技術領域

本說明書一個或多個實施例涉及機器學習領域，尤其涉及優化風險檢測模型的方法和裝置。

背景技術

機器學習的迅猛發展使得各種機器學習的模型在各種各樣的業務場景得到應用。例如在安全和風控場景中，已經通過機器學習訓練出一些風險檢測模型，用于識別出有風險或有安全隱患的對象。例如，通過風險檢測模型識別垃圾賬號，識別高風險的交易，識別高風險操作，等等。在識別出這樣的風險對象后往往會對其進行攔截，以確保系統和用戶的安全。

鑒于已有的風險檢測模型常常在魯棒性方面存在不足，希望能有改進的方案，可以針對風險檢測模型進行優化，以提升其魯棒性，更好地適用于風險檢測場景中的攻防特點。

發明內容

本說明書一個或多個實施例描述了一種優化風險檢測模型的方法和裝置，可以從攻防對抗的角度對風險檢測模型進行優化，增強其魯棒性和安全性。

根據第一方面，提供了一種優化風險檢測模型的方法，包括：

獲取樣本集，所述樣本集中包括具有第一標簽值的正常樣本和具有第二標簽值的原始風險樣本；

對于所述樣本集中各個原始風險樣本，根據訓練所述風險檢測模型使用的損失函數以及當前的風險檢測模型，確定攻擊者對該原始風險樣本進行潛在攻擊變換而得到的對抗風險樣本；

基于所述損失函數，確定所述風險檢測模型針對各個對抗風險樣本的第一預測損失，以及針對各個正常樣本的第二預測損失；

至少基于所述第一預測損失和第二預測損失，確定針對所述樣本集的總預測損失；

以所述總預測損失最小化為目標，調整所述風險檢測模型的模型參數，以優化所述風險檢測模型。

根據一種實施方式，對抗風險樣本相對于對應的原始風險樣本，利用所述損失函數針對第一標簽值計算的損失值減小。

在一個實施例中，確定攻擊者對該原始風險樣本進行潛在攻擊變換而得到的對抗風險樣本，具體包括：確定用于生成變換的變換生成函數，該變換生成函數使得施加所述變換后的對抗風險樣本針對第一標簽值計算的損失值達到最小；利用所述變換生成函數，針對該原始風險樣本，生成所述攻擊變換，得到對應的對抗風險樣本。

進一步的，在一個例子中，確定上述變換生成函數可以包括：針對所述樣本集中任意的第一原始風險樣本，利用當前生成函數生成第一中間變換，并通過在第一原始風險樣本上疊加所述第一中間變換得到第一中間樣本；利用當前的風險檢測模型計算第一中間樣本的預測值，并將該預測值與所述第一標簽值代入所述損失函數，得到所述第一中間樣本針對第一標簽值的對抗損失；確定目標函數，其至少包括各個原始風險樣本對應的中間樣本的對抗損失之和；以所述目標函數最小化為目標，調整所述當前生成函數中的參數，將調整后的當前生成函數確定為所述變換生成函數。

更進一步的，在一個具體例子中，上述目標函數還包括，各個原始風險樣本對應的中間變換的變換量絕對值之和或平方和。

根據另一種實施方式，所述對抗風險樣本相對于對應的原始風險樣本，利用所述損失函數針對第二標簽值計算的損失值增大。