[發(fā)明專利]一種模型更新方法、裝置及設(shè)備

有效

• 申請(qǐng)?zhí)枺?/td>: 201911324811.6
• 申請(qǐng)日: 2019-12-17
• 公開（公告）號(hào): CN111126623B
• 公開（公告）日: 2022-04-19
• 發(fā)明（設(shè)計(jì)）人: 吳秉哲;陳超超;陳岑;王力
• 申請(qǐng)（專利權(quán)）人: 支付寶（杭州）信息技術(shù)有限公司
• 主分類號(hào): G06N20/00
• 分類號(hào): G06N20/00
• 代理公司: 北京博思佳知識(shí)產(chǎn)權(quán)代理有限公司 11415
• 代理人: 陳沖

1.一種模型更新方法，包括：

獲取陰影集合S和目標(biāo)樣本z，其中，所述陰影集合中的部分樣本屬于已訓(xùn)練模型的訓(xùn)練樣本集合；

確定陰影集合中包含訓(xùn)練樣本的先驗(yàn)概率α，以及，確定所述已訓(xùn)練模型中的已訓(xùn)練參數(shù)分布θ₀；

對(duì)所述陰影集合中的樣本進(jìn)行采樣，并根據(jù)采樣結(jié)果訓(xùn)練得到采樣模型，確定在所述采樣模型中的采樣訓(xùn)練參數(shù)分布θ₁；

根據(jù)目標(biāo)樣本z的特征值、已訓(xùn)練參數(shù)分布θ₀和采樣訓(xùn)練參數(shù)分布θ₁確定出目標(biāo)樣本在所述陰影集合中的后驗(yàn)概率P；

計(jì)算所述后驗(yàn)概率P和先驗(yàn)概率α的差值，根據(jù)所述差值評(píng)估所述已訓(xùn)練模型對(duì)于所述訓(xùn)練樣本集合的隱私泄露程度；

若所述隱私泄露程度超過(guò)閾值，改變所述目標(biāo)樣本與所述已訓(xùn)練模型的訓(xùn)練樣本集合的歸屬關(guān)系，得到新的訓(xùn)練樣本集合，并根據(jù)所述新的訓(xùn)練樣本集合更新所述已訓(xùn)練模型。

2.如權(quán)利要求1所述的方法，確定陰影集合中包含訓(xùn)練樣本的先驗(yàn)概率α，包括：

確定所述陰影集合中包含訓(xùn)練樣本的比例，將所述比例確定為先驗(yàn)概率α；或者，

采用所述已訓(xùn)練模型對(duì)所述陰影集合中的樣本進(jìn)行識(shí)別，根據(jù)所述識(shí)別結(jié)果統(tǒng)計(jì)所述陰影集合中包含訓(xùn)練樣本的先驗(yàn)概率α。

3.如權(quán)利要求1所述的方法，對(duì)所述陰影集合中的樣本進(jìn)行采樣，包括：

對(duì)所述陰影集合中的樣本進(jìn)行隨機(jī)采樣；或者，對(duì)所述陰影集合中的樣本進(jìn)行非隨機(jī)采樣。

4.如權(quán)利要求1所述的方法，根據(jù)目標(biāo)樣本的特征值、已訓(xùn)練參數(shù)分布θ₀和采樣訓(xùn)練參數(shù)分布θ₁確定出目標(biāo)樣本在所述陰影集合中的后驗(yàn)概率P，包括：

確定所述采樣訓(xùn)練參數(shù)分布θ₁的期望E；

確定誤差計(jì)算函數(shù)l，根據(jù)所述期望E和l確定出訓(xùn)練參數(shù)在采樣模型和已訓(xùn)練模型中的分布誤差值

根據(jù)分布誤差值S，采用如下似然函數(shù)計(jì)算在給定陰影集合時(shí)，目標(biāo)樣本存在于所述陰影集合中的后驗(yàn)概率P：

P＝1/(1+e^-t)，其中，

5.如權(quán)利要求4所述的方法，確定誤差計(jì)算函數(shù)l，包括：

將所述已訓(xùn)練模型中進(jìn)行訓(xùn)練時(shí)所采用的誤差函數(shù)確定為誤差計(jì)算函數(shù)l。

6.如權(quán)利要求1所述的方法，根據(jù)所述差值評(píng)估所述已訓(xùn)練模型對(duì)于所述訓(xùn)練樣本集合的隱私泄露程度，包括：

根據(jù)所述差值的絕對(duì)值大小評(píng)估所述已訓(xùn)練模型對(duì)于所述訓(xùn)練樣本集合的隱私泄露程度，其中，所述絕對(duì)值越大，所述已訓(xùn)練模型對(duì)于所述訓(xùn)練樣本集合的隱私泄露程度越高。

7.如權(quán)利要求1所述的方法，根據(jù)所述差值評(píng)估所述已訓(xùn)練模型對(duì)于所述訓(xùn)練樣本集合的隱私泄露程度，包括：

獲取多個(gè)目標(biāo)樣本的多個(gè)差值，確定所述多個(gè)差值的統(tǒng)計(jì)值，根據(jù)所述統(tǒng)計(jì)值確定所述已訓(xùn)練模型對(duì)于所述訓(xùn)練樣本集合的隱私泄露程度，其中，所述統(tǒng)計(jì)值包括平均數(shù)、中位數(shù)、最大值或者最小值。

8.如權(quán)利要求1所述的方法，所述已訓(xùn)練模型包括圖像識(shí)別模型、風(fēng)險(xiǎn)識(shí)別模型或者信息推薦模型，所述目標(biāo)樣本或者訓(xùn)練樣本的特征包含用戶標(biāo)識(shí)特征或者用戶行為特征中的至少一種。