[發明專利]解釋業務場景下模型的方法、介質、裝置和計算設備

有效

• 申請號: 202110698960.X
• 申請日: 2021-06-23
• 公開（公告）號: CN113377640B
• 公開（公告）日: 2022-07-08
• 發明（設計）人: 段石石;王軍正;譚鈞心;劉長偉;程純;汪磊;朱一飛;岳猛;蘇杭;郭元;李寬
• 申請（專利權）人: 杭州網易云音樂科技有限公司
• 主分類號: G06F11/34
• 分類號: G06F11/34
• 代理公司: 北京律智知識產權代理有限公司 11438
• 代理人: 王輝;闞梓瑄

本公開的實施方式提供了一種解釋業務場景下模型的方法、介質、裝置和計算設備。該方法包括：收集業務場景下目標模型訓練相關的核心數據；對所述核心數據進行解釋得到第一解釋結果；收集目標模型相關數據，所述目標模型相關數據包括以下中至少之一：與所述目標模型的應用環境相關的環境數據以及與所述目標模型相關的監控數據；利用所述目標模型相關數據和所述第一解釋結果中至少之一對所述目標模型進行解釋得到第二解釋結果。根據本實施方式的方法通過除收集目標模型的核心數據之外還收集業務場景下的環境數據和監控數據參與解釋，提高模型的可解釋性，并且將模型可解釋能力獨立于模型之外，實現相同解釋方法可以用于任意模型訓練的業務場景。

技術領域

本公開的實施方式涉及通信及計算機技術領域，更具體地，本公開的實施方式涉及一種解釋業務場景下模型的方法、介質、裝置和計算設備。

背景技術

本部分旨在為權利要求書中陳述的本公開的實施方式提供背景或上下文。此處的描述不因為包括在本部分中就承認是現有技術。

相關模型可解釋性的技術落地在本身可解釋的模型上，這類模型在完成訓練后，其解釋邏輯與樣本、場景無關，僅與模型引入的樣本特征信息有關，因而解釋的能力較弱。此外可解釋性模型通常邏輯比較單一，無法覆蓋現在行業業務場景下的復雜建模需求，對于復雜模型的解釋性目前研究處于早期“黑盒”階段，類似可解釋性模型上的解釋能力，無法覆蓋在這類復雜模型上。而隨著業務越來越復雜，數據量規模的劇增，復雜性的模型越來越流行，對于業務而言，可解釋性能力的缺失很難為業務指標的變化說明原因。

發明內容

單純做模型可解釋性在業務場景下不是特別準確，因此除對模型本身進行解釋之外，把模型放到具體運行場景中考慮環境參數和一些參數對模型的影響，同時還利用可解釋模型的一些特征信息和業務數據信息。相關技術中可對訓練好的模型中權重的高低進行可視化展示，而本公開中獲取模型訓練樣本，對線上樣本分布進行分析給到業務人員做輔助。另外，獲取環境數據，考慮模型上線之后的表現情況，例如模型上線之后是不是有更多流量產生運算瓶頸，模型在業務場景下流量QPS突然暴增，會導致業務有問題。

因此，采集機器學習模型的訓練樣本保存下來，對真實業務的數據進行分析并進行解釋。解釋不完全依賴于模型，還依賴于樣本數據、環境數據、監控數據；通過數據的組合提供給業務人員進行分析。

為此需要一種以模型訓練樣本數據、相關系統上報的核心數據、環境數據、監控數據來提升業務場景上模型的可解釋性。

在本上下文中，本公開的實施方式期望提供一種解釋業務場景下模型的方法、介質、裝置和計算設備。

在本公開實施方式的第一方面中，提供了一種解釋業務場景下模型的方法，包括：

收集業務場景下目標模型訓練相關的核心數據；

對所述核心數據進行解釋得到第一解釋結果；

收集目標模型相關數據，所述目標模型相關數據包括以下中至少之一：與所述目標模型的應用環境相關的環境數據以及與所述目標模型相關的監控數據；

利用所述目標模型相關數據和所述第一解釋結果中至少之一對所述目標模型進行解釋得到第二解釋結果。

在本公開的一些實施例中，基于前述方案，所述核心數據包括所述目標模型的實時樣本以及所述目標模型訓練相關的中間文件，收集業務場景下目標模型訓練相關的核心數據包括：

響應于用戶的實時行為，收集目標模型的實時樣本，所述實時樣本包括實時特征，以及實時行為數據或者打標行為數據；

收集所述目標模型訓練相關的中間文件并且存儲至數據存儲模塊；

相應地，對所述核心數據進行解釋得到第一解釋結果包括：