[發明專利]評估人臉識別模型、針對圖像的分類模型的方法及裝置

有效

• 申請號: 202011176713.5
• 申請日: 2020-10-28
• 公開（公告）號: CN112215201B
• 公開（公告）日: 2022-05-17
• 發明（設計）人: 宗志遠
• 申請（專利權）人: 支付寶（杭州）信息技術有限公司
• 主分類號: G06V40/16
• 分類號: G06V40/16;G06V10/774;G06V10/82;G06K9/62;G06N3/04;G06N3/08
• 代理公司: 北京億騰知識產權代理事務所(普通合伙) 11309
• 代理人: 陳霽;周良玉

本說明書實施例提供一種評估人臉識別模型、針對圖像的分類模型的方法及裝置，在評估人臉識別模型的方法中，獲取樣本集。將樣本集中任意的第一樣本中的兩幅人臉圖像，輸入預先訓練的人臉識別模型，以預測第一比對結果。針對兩幅人臉圖像中任意的第一人臉圖像，采用熱力圖生成方法，基于第一比對結果以及第一人臉圖像，生成人臉熱力圖。根據人臉熱力圖，在第一人臉圖像中確定擾動區域。采用擾動方法，對擾動區域進行擾動，得到擾動后的第一人臉圖像。將擾動后的第一人臉圖像以及另一幅人臉圖像，輸入人臉識別模型，以預測第二比對結果。根據樣本集中各樣本的第一比對結果和第二比對結果，確定人臉識別模型的魯棒性評估結果。

技術領域

本說明書一個或多個實施例涉及計算機技術領域，尤其涉及一種評估人臉識別模型、針對圖像的分類模型的方法及裝置。

背景技術

對于待發布上線的機器學習模型(如，人臉識別模型或者針對圖像的分類模型)，為了確保其具有較高的容錯能力，通常需要對模型的魯棒性進行評估。

傳統技術中，通常依賴人工經驗，構建各種各樣的評估場景，并在人工構建的場景下對模型的魯棒性進行評估。

因此，需要提供一種更準確、效率更高的模型魯棒性評估方法。

發明內容

本說明書一個或多個實施例描述了一種評估人臉識別模型、針對圖像的分類模型的方法及裝置，可以提高模型魯棒性評估的準確性和效率。

第一方面，提供了一種評估人臉識別模型的方法，包括：

獲取樣本集；所述樣本集的每個樣本包括兩幅人臉圖像；

將所述樣本集中任意的第一樣本中的兩幅人臉圖像，輸入預先訓練的人臉識別模型，以預測第一比對結果；其中，所述第一比對結果指示所述兩幅人臉圖像相一致的概率；

針對所述兩幅人臉圖像中任意的第一人臉圖像，采用熱力圖生成方法，基于所述第一比對結果以及所述第一人臉圖像，生成人臉熱力圖；其中，所述人臉熱力圖示出所述第一人臉圖像中各個區域對于所述第一比對結果的敏感度；

根據所述人臉熱力圖，在所述第一人臉圖像中確定擾動區域；

采用擾動方法，對所述擾動區域進行擾動，得到擾動后的第一人臉圖像；

將所述擾動后的第一人臉圖像以及另一幅人臉圖像，輸入所述人臉識別模型，以預測第二比對結果；其中，所述第二比對結果指示所述擾動后的第一人臉圖像與所述另一幅人臉圖像相一致的概率；

根據所述樣本集中各樣本的第一比對結果和第二比對結果，確定所述人臉識別模型的魯棒性評估結果。

第二方面，提供了一種評估針對圖像的分類模型的方法，包括：

獲取樣本集；所述樣本集的每個樣本包括一幅圖像；

將所述樣本集中任意的第一樣本中的圖像，輸入預先訓練的分類模型，以預測第一分類結果；所述第一分類結果指示所述圖像屬于目標分類的概率；

采用熱力圖生成方法，基于所述第一分類結果以及所述圖像，生成所述圖像的熱力圖；其中，所述熱力圖示出所述圖像中各個區域對于所述第一分類結果的敏感度；

根據所述熱力圖，在所述圖像中確定擾動區域；

采用擾動方法，對所述擾動區域進行擾動，得到擾動后的圖像；

將所述擾動后的圖像輸入所述分類模型，以預測第二分類結果；所述第二分類結果指示所述擾動后的圖像屬于目標分類的概率；

根據所述樣本集中各樣本的第一分類結果和第二分類結果，確定所述分類模型的魯棒性評估結果。

第三方面，提供了一種評估人臉識別模型的裝置，包括：