[發明專利]深度學習模型的處理方法、裝置、設備和存儲介質

在審

• 申請號: 202011469107.2
• 申請日: 2020-12-14
• 公開（公告）號: CN112580781A
• 公開（公告）日: 2021-03-30
• 發明（設計）人: 范力欣;周雨豪;劉暢;張天豫;楊強
• 申請（專利權）人: 深圳前海微眾銀行股份有限公司
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/08;G06K9/62
• 代理公司: 北京同立鈞成知識產權代理有限公司 11205
• 代理人: 楊俊輝;臧建明

1.一種深度學習模型的處理方法，其特征在于，包括：

將預先獲取到的數據集輸入待處理的深度學習模型中，獲取所述深度學習模型對每種特征的信息增益，稀疏性參數以及完備性參數；其中，所述數據集中包括多種特征的數據，每種特征的信息增益用于表示所述特征區分數據樣本的能力，每種特征的稀疏性參數用于表示特征之間的獨立程度，每種特征的完備性參數用于表示所述特征對所述深度學習模型的影響程度；

從所述深度學習模型中提取出特征提取器的輸出以及分類器的輸出，并將所述特征提取器的輸出以及所述分類器的輸出作為訓練數據進行樹模型訓練，得到解釋模型；

對所述解釋模型的葉節點的分類準確度進行測量，得到樹準確度，所述樹準確度用于指示所述解釋模型的分類準確度；

計算所述解釋模型的每個葉節點能夠正確分類的樣本占所有樣本中對應類別樣本的數量比，得到樹完備性參數；

輸出所述每種特征的信息增益，所述每種特征的稀疏性參數，所述每種特征的完備性參數，所述樹準確度以及所述樹完備性參數。

2.根據權利要求1所述的方法，其特征在于，所述方法還包括：

根據所述每種特征的信息增益，所述每種特征的稀疏性參數，所述每種特征的完備性參數，所述樹準確度以及樹完備性參數進行可視化處理，得到針對所述深度學習模型進行評估的可視化結果；

輸出所述可視化結果。

3.根據權利要求1或2所述的方法，其特征在于，所述將預先獲取到的數據集輸入待處理的深度學習模型中，獲取所述深度學習模型對每種特征的信息增益，稀疏性參數以及完備性參數，包括：

將所述數據集輸入所述深度學習模型，并提取出所述深度學習模型的特征提取器的輸出，針對所述特征提取器的輸出中每種特征的輸出值進行濾波，并在濾波后取均值，得到所述深度學習模型對所述特征的信息增益；

從所述深度學習模型的卷積層中提取出所有濾波矩陣，根據所述所有濾波矩陣分別進行轉換，兩兩計算每個特征的K-L散度矩陣，并根據每個特征的K-L散度矩陣得到所述特征對應的稀疏性參數；

根據所述深度學習模型對每種特征的信息增益從大到小的順序依次從所述數據集中刪除一種特征集合，并在每次刪除后根據未被刪除的所有特征集合構建隨機森林模型，并計算所述隨機森林模型的測試性能；

當存在一個隨機森林模型的測試性能相較于上一個模型的測試性能的變化大于預設值時，獲取已刪除的特征集合的數量；

根據所述已刪除的特征集合的數量和所述數據集中的特征集合的總數，計算獲取所述完備性參數。

4.根據權利要求1或2所述的方法，其特征在于，所述對所述解釋模型的葉節點的分類準確度進行測量，得到樹準確度，包括：

測量獲取所述解釋模型分類最終落在每個葉節點上的總樣本數以及每個葉節點分類正確的樣本數；

采用公式計算所述解釋模型中每個葉節點的分類準確度Acc_i；其中，i為葉節點序號，n_i為經過所述解釋模型分類最終落在該葉節點的總樣本數，c_i為所述葉節點分類正確的樣本數，所述樹準確度包括所述每個葉節點的分類準確度。

5.根據權利要求1或2所述的方法，其特征在于，所述計算所述解釋模型的每個葉節點能夠正確分類的樣本占所有樣本中對應類別樣本的數量比，得到樹完備性參數，包括：

采用公式：計算所述解釋模型的每個葉節點能夠正確分類的樣本占所有樣本中對應類別樣本的數量比Comp_i，得到所述樹完備性參數；其中，i為葉節點序號，c_i為該葉節點分類正確的樣本數，n_c為所有樣本中與該節點同類的樣本數。