[發明專利]深度學習模型的處理方法、裝置、設備和存儲介質

在審

• 申請號: 202011469107.2
• 申請日: 2020-12-14
• 公開（公告）號: CN112580781A
• 公開（公告）日: 2021-03-30
• 發明（設計）人: 范力欣;周雨豪;劉暢;張天豫;楊強
• 申請（專利權）人: 深圳前海微眾銀行股份有限公司
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/08;G06K9/62
• 代理公司: 北京同立鈞成知識產權代理有限公司 11205
• 代理人: 楊俊輝;臧建明

本發明公開了一種深度學習模型的處理方法、裝置、設備和存儲介質，所述方法包括：對于深度學習模型，根據從特征提取器以及分類器中提取一些中間層的特征輸出以及最終輸出，計算深度學習模型對每種特征的信息增益，稀疏性參數以及完備性參數。并根據中間層的輸出進行樹模型訓練，得到解釋模型，并對解釋模型的葉節點進行測試，得到該解釋模型的分類準確度，計算所述解釋模型的每個葉節點能夠正確分類的樣本占所有樣本中對應類別樣本的數量比，得到樹完備性參數。最后將得到的特征的信息增益，稀疏性參數，完備性參數，樹準確度以及樹完備性這些可以對模型進行評估的指標進行輸出，從而提供一種對深度學習模型進行量化分析和解釋的工具。

技術領域

本發明涉及人工智能領域，尤其涉及一種深度學習模型的處理方法、裝置、設備和存儲介質。

背景技術

卷積神經網絡模型(Convolution Neural Networks,CNNs)是一種深度學習模型，在圖像識別等領域中具有非常出色的性能，得到了廣泛應用。CNNs主要由卷積部分和全連接部分組成。其中卷積部分包含卷積層、激活函數層和池化層等，作用是提取數據的特征；全連接部分的作用是連接特征和輸出計算損失，并進行識別和分類等操作。

然而，由于深度學習模型端到端的學習策略和極其復雜的模型參數結構，CNNs一直如同黑盒一般令人難以理解和解釋其中的工作原理。CNNs經過訓練收斂后，用戶在使用中僅能得到模型的最終輸出結果(如輸入所屬的類別等)，卻無法理解CNNs是如何從原始輸入得到預測輸出的。這種難以解釋性使得當前CNNs等深度學習模型在無人駕駛、醫療圖像識別等領域的落地遭遇了很大阻礙。

綜上所述，目前還沒有合適的對深度學習模型進行量化解釋和分析的工具。

發明內容

本發明的主要目的在于提供一種深度學習模型的處理方法、裝置、設備和存儲介質，提供一種對深度學習模型進行量化解釋和分析的工具。

為實現上述目的，本發明提供一種深度學習模型的處理方法，包括：

將預先獲取到的數據集輸入待處理的深度學習模型中，獲取所述深度學習模型對每種特征的信息增益，稀疏性參數以及完備性參數；其中，所述數據集中包括多種特征的數據，每種特征的信息增益用于表示所述特征區分數據樣本的能力，每種特征的稀疏性參數用于表示特征之間的獨立程度，每種特征的完備性參數用于表示所述特征對所述深度學習模型的影響程度；

從所述深度學習模型中提取出特征提取器的輸出以及分類器的輸出，并將所述特征提取器的輸出以及所述分類器的輸出作為訓練數據進行樹模型訓練，得到解釋模型；

對所述解釋模型的葉節點的分類準確度進行測量，得到樹準確度，所述樹準確度用于指示所述解釋模型的分類準確度；

計算所述解釋模型的每個葉節點能夠正確分類的樣本占所有樣本中對應類別樣本的數量比，得到樹完備性參數；

輸出所述每種特征的信息增益，所述每種特征的稀疏性參數，所述每種特征的完備性參數，所述樹準確度以及所述樹完備性參數。

在一種具體實施方式中，所述方法還包括：

根據所述每種特征的信息增益，所述每種特征的稀疏性參數，所述每種特征的完備性參數，所述樹準確度以及樹完備性參數進行可視化處理，得到針對所述深度學習模型進行評估的可視化結果；

輸出所述可視化結果。

在一種具體實施方式中，所述將預先獲取到的數據集輸入待處理的深度學習模型中，獲取所述深度學習模型對每種特征的信息增益，稀疏性參數以及完備性參數，包括：

將所述數據集輸入所述深度學習模型，并提取出所述深度學習模型的特征提取器的輸出，針對所述特征提取器的輸出中每種特征的輸出值進行濾波，并在濾波后取均值，得到所述深度學習模型對所述特征的信息增益；