[發(fā)明專利]全局特征重要性表征方法、裝置、電子設(shè)備和存儲介質(zhì)

在審

• 申請?zhí)枺?/td>: 202010629924.3
• 申請日: 2020-07-03
• 公開（公告）號: CN111523681A
• 公開（公告）日: 2020-08-11
• 發(fā)明（設(shè)計(jì)）人: 方文靜;王力
• 申請（專利權(quán)）人: 支付寶（杭州）信息技術(shù)有限公司
• 主分類號: G06N20/00
• 分類號: G06N20/00;G06F21/62
• 代理公司: 北京匯思誠業(yè)知識產(chǎn)權(quán)代理有限公司 11444
• 代理人: 朱娟

本說明書提出了一種全局特征重要性表征方法、裝置、電子設(shè)備和存儲介質(zhì)，其中，上述方法包括：構(gòu)建隱私樹模型，獲取主動方的第一訓(xùn)練數(shù)據(jù)及目標(biāo)特征，分別在主動方和被動方進(jìn)行訓(xùn)練，在訓(xùn)練中記錄下各被動方的各項(xiàng)指標(biāo)值及對應(yīng)的特征標(biāo)簽；根據(jù)所述指標(biāo)值及所述被動方特征標(biāo)簽進(jìn)行評估，得到所述隱私樹模型的特征重要性；通過本說明書可以獲得隱私樹模型的全局解釋性，由此可以提高對隱私樹模型與數(shù)據(jù)特征之間的關(guān)聯(lián)關(guān)系的直觀理解。

技術(shù)領(lǐng)域

本說明書涉及人工智能技術(shù)領(lǐng)域，尤其涉及一種全局特征重要性表征方法、裝置、電子設(shè)備和存儲介質(zhì)。

背景技術(shù)

人工智能（Artificial Intelligence；以下簡稱：AI），是目前研究和開發(fā)用于模擬、延伸以及擴(kuò)展人類智能的一門新興科學(xué)技術(shù)。其中，AI的主要研究目標(biāo)是使機(jī)器能夠勝任一些通常需要人類智能才能完成的復(fù)雜工作，通常人工智能都通過對模型進(jìn)行訓(xùn)練獲得，并可以通過數(shù)據(jù)特征對模型進(jìn)行解釋。

發(fā)明內(nèi)容

本說明書實(shí)施例提供了一種全局特征重要性表征方法、裝置、電子設(shè)備和存儲介質(zhì)，通過獲取被動方的匿名特征以及對應(yīng)的重要性指標(biāo)數(shù)值，根據(jù)該重要性指標(biāo)數(shù)值對各參與方的特征進(jìn)行排序，由此可以獲得隱私樹模型的全局解釋性，并可以提高對隱私樹模型與數(shù)據(jù)特征之間的關(guān)聯(lián)關(guān)系的直觀理解。

第一方面，本說明書實(shí)施例提供一種全局特征重要性表征方法，包括：

構(gòu)建隱私樹模型，其中，所述隱私樹模型與多個分裂對應(yīng)，所述分裂方包括一個主動方及至少一個被動方；

獲取第一訓(xùn)練數(shù)據(jù)，所述主動方根據(jù)所述第一訓(xùn)練數(shù)據(jù)計(jì)算增益，得到主動方增益，并接收各被動方的增益，根據(jù)所述主動方增益及所述被動方增益對所述隱私樹模型進(jìn)行訓(xùn)練；其中，所述主動方增益與主動方特征對應(yīng)，所述被動方增益與被動方特征對應(yīng)；

在所述訓(xùn)練過程中，記錄每次分裂對應(yīng)的被動方、被動方特征標(biāo)簽及一個或多個預(yù)置指標(biāo)項(xiàng)的數(shù)值，并在訓(xùn)練完成后根據(jù)所述預(yù)置指標(biāo)項(xiàng)的數(shù)值對所述被動方特征標(biāo)簽及所述主動方特征進(jìn)行匯總，得到所述隱私樹模型的特征重要性，其中，所述被動方特征標(biāo)簽用于對所述被動方特征進(jìn)行匿名標(biāo)識。

其中一種可能的實(shí)現(xiàn)方式中，所述主動方根據(jù)所述第一訓(xùn)練數(shù)據(jù)計(jì)算增益，得到主動方增益包括：

根據(jù)所述第一訓(xùn)練數(shù)據(jù)確定主動方的特征集合，依次根據(jù)所述主動方特征集合中的每個特征計(jì)算增益，得到主動方中每個所述特征對應(yīng)的增益。

其中一種可能的實(shí)現(xiàn)方式中，所述根據(jù)所述主動方增益及被動方增益對所述隱私樹模型進(jìn)行訓(xùn)練包括：

S1，根據(jù)所述主動方增益及所述被動方增益對所述聯(lián)邦學(xué)習(xí)模型的節(jié)點(diǎn)進(jìn)行分裂，得到分裂樹，其中，所述分裂樹包括多個節(jié)點(diǎn)，每個所述節(jié)點(diǎn)與分裂的特征及參與方對應(yīng)；

S2，當(dāng)獲取到當(dāng)前的分裂樹后，對當(dāng)前分裂樹的一階導(dǎo)數(shù)及二階導(dǎo)數(shù)進(jìn)行更新，根據(jù)更新后的一階導(dǎo)數(shù)及二階導(dǎo)數(shù)計(jì)算主動方增益及被動方增益，并根據(jù)新的主動方增益及新的被動方增益進(jìn)行再次分裂，得到下一棵分裂樹，并重復(fù)步驟S2，得到多棵分裂樹。

其中一種可能的實(shí)現(xiàn)方式中，所述在所述訓(xùn)練過程中，記錄每次分裂對應(yīng)的被動方、被動方特征標(biāo)簽及一個或多個預(yù)置指標(biāo)項(xiàng)的數(shù)值包括：

在所述訓(xùn)練過程中，獲取每次分裂時對應(yīng)的被動方及與所述被動方對應(yīng)的特征標(biāo)簽，并將所述被動方及所述被動方特征標(biāo)簽進(jìn)行存儲；

計(jì)算每次分裂時與所述被動方特征標(biāo)簽對應(yīng)的預(yù)置指標(biāo)項(xiàng)的數(shù)值，并將所述預(yù)置指標(biāo)項(xiàng)數(shù)值進(jìn)行存儲。

其中一種可能的實(shí)現(xiàn)方式中，所述在訓(xùn)練完成后根據(jù)所述預(yù)置指標(biāo)項(xiàng)的數(shù)值對所述被動方特征標(biāo)簽及所述主動方特征進(jìn)行匯總，得到所述隱私樹模型的特征重要性包括：