[發(fā)明專利]模型解釋方法、設(shè)備及可讀存儲介質(zhì)

有效

• 申請?zhí)枺?/td>: 202010446887.2
• 申請日: 2020-05-22
• 公開（公告）號: CN111612080B
• 公開（公告）日: 2021-11-09
• 發(fā)明（設(shè)計）人: 吳錦和;范力欣;張?zhí)煸?/a>
• 申請（專利權(quán)）人: 深圳前海微眾銀行股份有限公司
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06N3/04;G06N3/08;H04L9/06
• 代理公司: 深圳市世紀恒程知識產(chǎn)權(quán)代理事務(wù)所 44287
• 代理人: 張婷

本申請公開了一種模型解釋方法、設(shè)備及可讀存儲介質(zhì)，所述模型解釋方法包括：獲取預(yù)設(shè)黑箱模型對應(yīng)的各模型輸入特征，并將各所述模型輸入特征對應(yīng)的預(yù)測數(shù)據(jù)集輸入基于各預(yù)設(shè)樣本類別優(yōu)化的第一哈希編碼模型，對所述預(yù)測數(shù)據(jù)集進行哈希編碼，獲得第一哈希編碼結(jié)果，進而將所述預(yù)測數(shù)據(jù)集輸入基于所述預(yù)設(shè)黑箱模型輸出的各輸出樣本類別優(yōu)化的第二哈希編碼模型，對所述預(yù)測數(shù)據(jù)集進行哈希編碼，獲得第二哈希編碼結(jié)果，進而基于所述第一哈希編碼結(jié)果和所述第二哈希編碼結(jié)果之間的各比特位差異度，確定各所述模型輸入特征對應(yīng)的特征置信度。本申請解決了模型解釋效果差的技術(shù)問題。

技術(shù)領(lǐng)域

本申請涉及金融科技(Fintech)的人工智能領(lǐng)域，尤其涉及一種模型解釋方法、設(shè)備及可讀存儲介質(zhì)。

背景技術(shù)

隨著金融科技，尤其是互聯(lián)網(wǎng)科技金融的不斷發(fā)展，越來越多的技術(shù)(如分布式、區(qū)塊鏈Blockchain、人工智能等)應(yīng)用在金融領(lǐng)域，但金融業(yè)也對技術(shù)提出了更高的要求，如對金融業(yè)對應(yīng)待辦事項的分發(fā)也有更高的要求。

隨著計算機軟件和人工智能的不斷發(fā)展，深度學(xué)習(xí)的應(yīng)用領(lǐng)域也越來越廣泛，基于深度學(xué)習(xí)的模型達到的性能也越來越好，但是由于基于深度學(xué)習(xí)的模型都是黑箱模型，難以精確解釋模型將在什么情況下失效和有效，目前，通常通過Shapley重要性等方法估計模型輸入特征的重要性，但是，該方法只能粗略的解釋某一模型輸入特征對是否對模型重要，無法對模型進行更加精確的解釋，進而導(dǎo)致模型解釋效果較差，所以，現(xiàn)有技術(shù)中存在模型解釋效果差的技術(shù)問題。

發(fā)明內(nèi)容

本申請的主要目的在于提供一種模型解釋方法、設(shè)備及可讀存儲介質(zhì)，旨在解決現(xiàn)有技術(shù)中模型解釋效果差的技術(shù)問題。

為實現(xiàn)上述目的，本申請?zhí)峁┮环N模型解釋方法，所述模型解釋方法應(yīng)用于模型解釋設(shè)備，所述模型解釋方法包括：

獲取預(yù)設(shè)黑箱模型對應(yīng)的各模型輸入特征，并將各所述模型輸入特征對應(yīng)的預(yù)測數(shù)據(jù)集輸入基于各預(yù)設(shè)樣本類別優(yōu)化的第一哈希編碼模型，對所述預(yù)測數(shù)據(jù)集進行哈希編碼，獲得第一哈希編碼結(jié)果；

將所述預(yù)測數(shù)據(jù)集輸入基于所述預(yù)設(shè)黑箱模型輸出的各輸出樣本類別優(yōu)化的第二哈希編碼模型，對所述預(yù)測數(shù)據(jù)集進行哈希編碼，獲得第二哈希編碼結(jié)果；

基于所述第一哈希編碼結(jié)果和所述第二哈希編碼結(jié)果之間的各比特位差異度，確定各所述模型輸入特征對應(yīng)的特征置信度。

可選地，所述基于所述第一哈希編碼結(jié)果和所述第二哈希編碼結(jié)果之間的各比特位差異度，確定各所述模型輸入特征對應(yīng)的特征置信度的步驟包括：

計算所述第一哈希編碼結(jié)果和所述第二哈希編碼結(jié)果之間的各所述比特位差異度，并確定各所述比特位差異度對應(yīng)的輸出通道置信度；

計算各所述模型輸入特征的輸入特征貢獻度，并基于各所述輸出通道置信度和各所述輸入特征貢獻度，確定各所述特征置信度。

可選地，所述預(yù)測數(shù)據(jù)集至少包括一個預(yù)測樣本，所述第一哈希編碼結(jié)果包括各所述預(yù)測樣本對應(yīng)的第一哈希編碼值，所述第二哈希編碼結(jié)果包括各所述預(yù)測樣本對應(yīng)的第二哈希編碼值，所述比特位差異度包括比特位一致性錯誤率，所述輸出通道置信度包括輸出通道錯誤率，

所述計算所述第一哈希編碼結(jié)果和所述第二哈希編碼結(jié)果之間的各所述比特位差異度，并確定各所述比特位差異度對應(yīng)的輸出通道置信度的步驟包括：

將每一所述預(yù)測樣本對應(yīng)的所述第一哈希編碼值和所述第二哈希編碼值進行比對，獲得各所述比特位一致性錯誤率；

確定所述第二哈希編碼結(jié)果對應(yīng)的各模型輸出通道，并基于各所述比特位一致性錯誤率，確定各所述模型輸出通道對應(yīng)的所述輸出通道錯誤率。

可選地，所述第二哈希編碼模型至少包括一個模型輸出通道，

所述計算各所述模型輸入特征的輸入特征貢獻度的步驟包括：