[發明專利]模型解釋方法、設備及可讀存儲介質

有效

• 申請號: 202010446887.2
• 申請日: 2020-05-22
• 公開（公告）號: CN111612080B
• 公開（公告）日: 2021-11-09
• 發明（設計）人: 吳錦和;范力欣;張天豫
• 申請（專利權）人: 深圳前海微眾銀行股份有限公司
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06N3/04;G06N3/08;H04L9/06
• 代理公司: 深圳市世紀恒程知識產權代理事務所 44287
• 代理人: 張婷

1.一種模型解釋方法，其特征在于，所述模型解釋方法包括：

獲取預設黑箱模型對應的各模型輸入特征，并將各所述模型輸入特征對應的預測數據集輸入基于各預設樣本類別優化的第一哈希編碼模型，對所述預測數據集進行哈希編碼，獲得第一哈希編碼結果；

將所述預測數據集輸入基于所述預設黑箱模型輸出的各輸出樣本類別優化的第二哈希編碼模型，對所述預測數據集進行哈希編碼，獲得第二哈希編碼結果；

基于所述第一哈希編碼結果和所述第二哈希編碼結果之間的各比特位差異度，確定各所述模型輸入特征對應的特征置信度，其中，所述特征置信度為所述模型輸入特征對所述預設黑箱模型的貢獻度的正確率或者錯誤率，所述特征置信度越低，則所述預設黑箱模型失效的概率越高。

2.如權利要求1所述模型解釋方法，其特征在于，所述基于所述第一哈希編碼結果和所述第二哈希編碼結果之間的各比特位差異度，確定各所述模型輸入特征對應的特征置信度的步驟包括：

計算所述第一哈希編碼結果和所述第二哈希編碼結果之間的各所述比特位差異度，并確定各所述比特位差異度對應的輸出通道置信度；

計算各所述模型輸入特征的輸入特征貢獻度，并基于各所述輸出通道置信度和各所述輸入特征貢獻度，確定各所述特征置信度。

3.如權利要求2所述模型解釋方法，其特征在于，所述預測數據集至少包括一個預測樣本，所述第一哈希編碼結果包括各所述預測樣本對應的第一哈希編碼值，所述第二哈希編碼結果包括各所述預測樣本對應的第二哈希編碼值，所述比特位差異度包括比特位一致性錯誤率，所述輸出通道置信度包括輸出通道錯誤率，

所述計算所述第一哈希編碼結果和所述第二哈希編碼結果之間的各所述比特位差異度，并確定各所述比特位差異度對應的輸出通道置信度的步驟包括：

將每一所述預測樣本對應的所述第一哈希編碼值和所述第二哈希編碼值進行比對，獲得各所述比特位一致性錯誤率；

確定所述第二哈希編碼結果對應的各模型輸出通道，并基于各所述比特位一致性錯誤率，確定各所述模型輸出通道對應的所述輸出通道錯誤率。

4.如權利要求2所述模型解釋方法，其特征在于，所述第二哈希編碼模型至少包括一個模型輸出通道，

所述計算各所述模型輸入特征的輸入特征貢獻度的步驟包括：

確定每一所述模型輸入特征與每一所述模型輸出通道之間的各模型網絡鏈接；

獲取每一所述模型網絡鏈接中各網絡神經元對應的模型網絡參數，并基于各所述模型網絡參數，計算各所述輸入特征貢獻度。

5.如權利要求1所述模型解釋方法，其特征在于，在所述獲取預設黑箱模型對應的各模型輸入特征，并將各所述模型輸入特征對應的預測數據集輸入基于各預設樣本類別優化的第一哈希編碼模型，對所述預測數據集進行哈希編碼，獲得第一哈希編碼結果的步驟之前，所述模型解釋方法還包括：

獲取第一待訓練模型和各所述預設樣本類別對應的訓練數據集，并基于預設目標哈希編碼方式，確定各所述預設樣本類別對應的第一目標哈希編碼結果；

基于所述第一目標哈希編碼結果和所述訓練數據集，對所述第一待訓練模型進行迭代訓練，直至所述第一待訓練模型達到預設迭代結束條件，獲得所述第一哈希編碼模型。