[發明專利]一種機器學習可解釋方法、裝置及存儲介質

在審

• 申請號: 202011241293.4
• 申請日: 2020-11-09
• 公開（公告）號: CN112561074A
• 公開（公告）日: 2021-03-26
• 發明（設計）人: 師圣;杜楊洲;范偉
• 申請（專利權）人: 聯想（北京）有限公司
• 主分類號: G06N20/00
• 分類號: G06N20/00;G06K9/62
• 代理公司: 北京樂知新創知識產權代理事務所(普通合伙) 11734
• 代理人: 周偉

1.一種機器學習可解釋方法，其特征在于，所述方法包括：

獲取待解釋樣本；

基于所述待解釋樣本的特征相關性對所述待解釋樣本進行采樣，得到包括若干采樣值的采樣集；

利用所述若干采樣值進行模型訓練，得到可解釋模型；

利用所述可解釋模型對所述待解釋樣本進行解釋，得到解釋結果。

2.根據權利要求1所述的方法，其特征在于，所述待解釋樣本包括如下數據類型至少之一：圖像數據、自然語言及結構化數據。

3.根據權利要求1所述的方法，其特征在于，利用所述若干采樣值進行模型訓練，得到可解釋模型，包括：

對所述若干采樣值進行線性擬合，得到線性模型；

相應的，利用所述可解釋模型對所述待解釋樣本進行解釋，包括：

通過分類器得到所述待解釋樣本的分類結果；

利用所述線性模型對所述分類結果的進行解釋。

4.根據權利要求1至3任一項所述的方法，其特征在于，所述待解釋樣本為原始圖像；基于所述待解釋樣本的特征相關性對所述待解釋樣本進行采樣，得到包括若干采樣值的采樣集，包括：

對原始圖像進行圖像分割，得到超像素塊圖像；

將超像素塊圖像轉化為無向圖；

尋找所述無向圖中的所有團，所述團為無向圖中的一個子集，且所述子集中的任意兩個頂點都有邊相連。

5.根據權利要求4所述的方法，其特征在于，所述將超像素塊圖像轉化為無向圖，包括：

將所述超像素塊圖像對應無向圖的頂點；

若存在相鄰的兩個超像素塊圖像，則將無向圖中對應的兩個頂點通過無向邊相連。

6.根據權利要求4所述的方法，其特征在于，利用深度優化搜索算法尋找所述無向圖中的所有團。

7.一種機器學習可解釋裝置，其特征在于，所述裝置包括：

獲取模塊，用于獲取待解釋樣本；

相關性采樣模塊，用于基于所述待解釋樣本的特征相關性對所述待解釋樣本進行采樣，得到包括若干采樣值的采樣集；

訓練模塊，用于利用所述若干采樣值進行模型訓練，得到可解釋模型；

解釋模塊，用于利用所述可解釋模型對所述待解釋樣本進行解釋，得到解釋結果。

8.根據權利要求7所述的裝置，其特征在于，

所述訓練模塊，具體用于對所述若干采樣值進行線性擬合，得到線性模型；

相應的，所述解釋模塊，還用于通過分類器得到所述待解釋樣本的分類結果；利用所述線性模型對所述分類結果的進行解釋。

9.一種機器學習可解釋裝置，其特征在于，所述裝置至少包括一個處理器、以及于所述處理器連接的至少一個存儲器、總線；其中，所述處理器、所述內存其通過總線完成相互間的通信；所述處理器用于調用存儲器中的程序指令，以執行權利要求1至6任一項所述的機器學習可解釋方法。

10.一種計算機可讀存儲介質，其特征在于，所述存儲介質包括一組計算機可執行指令，當所述指令被執行時用于執行權利要求1至6任一項所述的機器學習可解釋方法。