[發明專利]評估模型解釋工具的方法和裝置

有效

• 申請號: 202010160591.4
• 申請日: 2020-03-10
• 公開（公告）號: CN111008898B
• 公開（公告）日: 2020-08-28
• 發明（設計）人: 方軍鵬;唐才智
• 申請（專利權）人: 支付寶（杭州）信息技術有限公司
• 主分類號: G06Q40/02
• 分類號: G06Q40/02;G06Q30/02;G06N3/04;G06N3/08
• 代理公司: 北京億騰知識產權代理事務所(普通合伙) 11309
• 代理人: 張靜娟;周良玉

本說明書實施例提供一種評估模型解釋工具的方法和裝置，所述方法包括：使用多個第一訓練樣本訓練所述第一模型，以獲取具有第一參數組的第一模型；基于多個測試樣本獲取所述具有第一參數組的第一模型的第一性能值；基于多個第一訓練樣本和所述第一參數組，通過模型解釋工具獲取多個特征的重要性排序；將每個第一訓練樣本中除所述重要性排序的前n個特征之外的特征的特征值替換為相同的預定值，以獲取多個第二訓練樣本；使用多個第二訓練樣本訓練所述第一模型，以獲取具有第二參數組的第一模型；基于多個測試樣本獲取具有第二參數組的第一模型的第二性能值；計算第一性能值與所述第二性能值的差異值，以用于評估所述模型解釋工具。

技術領域

本說明書實施例涉及機器學習技術領域，更具體地，涉及一種評估模型解釋工具的方法和裝置。

背景技術

機器學習目前在各個領域都有著廣泛的應用，如零售，技術，醫療保健，科學等等。機器學習模型本質上是用一個復雜的函數擬合數據和目標之間的關系。機器學習模型與一些簡單的規則有著很大的差別，規則明確數據和目標之間的關系，但是機器學習模型是一個黑盒只有輸入和輸出，不明白內部的機制。在某些領域，特別是在金融領域，比如保險、銀行等，數據科學家們通常最終不得不使用更傳統更簡單的機器學習模型（線性模型或決策樹模型）。然而，這類簡單模型雖能提供一定的可解釋性，但是簡單的模型對于實現復雜的任務顯的力不從心，模型精度性能等方面必然不如更加復雜的深度模型。

例如，使用花唄付款用戶可以提前透支次月還款，這一功能類似信用卡，這意味著用戶存在套現的風險，這類套現用戶相較正常用戶逾期還款的概率更高，對公司造成損失。為了減少風險，對于這類套現交易的攔截是十分有必要的，或者對于小額貸款，審批不通過，那么應該給用戶提供合理的解釋。但是考慮到金融場景比較敏感，對于使用的攔截模型的可解釋性要求必然很高。傳統的方法是使用一些簡單的模型比如線性模型樹模型，雖然能滿足對可解釋性的要求，但是相對于復雜的實際情況這類簡單模型精度性能并不能滿足業務需求，例如精度太低會攔截大量正常交易誤傷正常用戶這些損失也是不能承受的。

考慮到以上的問題，目前提出了多種模型無關的對模型進行解釋的工具，對業務場景實際應用的黑盒模型做出合理的解釋，而且因為不會對模型進行改動，所以不會影響到模型的性能。目前，用于衡量模型解釋工具的方法包括先驗衡量方法、針對圖像分類模型的模型解釋工具的評估方法、針對文本分類模型的模型解釋工具的評估方法等等。然而，仍然沒有可同時適用于多種模型解釋工具的方法。

因此，需要一種更有效的評估模型解釋工具的方案。

發明內容

本說明書實施例旨在提供一種更有效的評估模型解釋工具的方案，以解決現有技術中的不足。

為實現上述目的，本說明書一個方面提供一種評估模型解釋工具的方法，所述方法基于第一模型和預先獲取的用于第一模型的多個第一訓練樣本和多個測試樣本進行，其中，每個所述第一訓練樣本包括業務對象的多個特征的特征值，所述方法包括：

從所述多個特征中選取n個特征作為n個選定特征；

將每個所述第一訓練樣本中除所述n個選定特征之外的特征的特征值替換為其它值，以獲取多個第二訓練樣本；

使用所述多個第二訓練樣本訓練所述第一模型，以獲取具有第一參數組的第一模型；

基于所述多個測試樣本獲取所述具有第一參數組的第一模型的第一性能值；

基于所述多個第二訓練樣本和所述第一參數組，通過模型解釋工具獲取所述多個特征的重要性排序；

將每個所述第二訓練樣本中除所述重要性排序的前n個特征之外的特征的特征值替換為相同的預定值，以獲取多個第三訓練樣本；

使用所述多個第三訓練樣本訓練所述第一模型，以獲取具有第二參數組的第一模型；