[發(fā)明專利]一種圖像識(shí)別模型隱私風(fēng)險(xiǎn)的評(píng)估方法、裝置及電子設(shè)備

在審

• 申請(qǐng)?zhí)枺?/td>: 202010442718.1
• 申請(qǐng)日: 2020-05-22
• 公開（公告）號(hào): CN111539382A
• 公開（公告）日: 2020-08-14
• 發(fā)明（設(shè)計(jì)）人: 翁海琴
• 申請(qǐng)（專利權(quán)）人: 支付寶（杭州）信息技術(shù)有限公司
• 主分類號(hào): G06K9/00
• 分類號(hào): G06K9/00;G06K9/46;G06K9/62;G06N3/04;G06N3/08;G06Q10/06
• 代理公司: 北京國昊天誠知識(shí)產(chǎn)權(quán)代理有限公司 11315
• 代理人: 許振新

本說明書實(shí)施例提供一種圖像識(shí)別模型隱私風(fēng)險(xiǎn)的評(píng)估方法。其中，方法包括：基于圖像識(shí)別模型中的輸入向量，對(duì)目標(biāo)對(duì)象對(duì)應(yīng)的原始圖像進(jìn)行特征提取，得到所述目標(biāo)對(duì)象的特征數(shù)據(jù)。將所述目標(biāo)對(duì)象的特征數(shù)據(jù)輸入至所述圖像識(shí)別模型對(duì)應(yīng)的逆向模型，得到所述目標(biāo)對(duì)象對(duì)應(yīng)的逆向圖像，其中，所述逆向模型具有與所述圖像識(shí)別模型中的輸入向量相反表達(dá)的輸入向量，并以樣本對(duì)象對(duì)應(yīng)的原始圖像為輸出、所述樣本對(duì)象在對(duì)應(yīng)的原始圖像中的特征數(shù)據(jù)為輸入進(jìn)行訓(xùn)練?；谒瞿繕?biāo)對(duì)象對(duì)應(yīng)的原始圖像和逆向圖像的相似度，評(píng)估所述圖像識(shí)別模型的隱私風(fēng)險(xiǎn)。

技術(shù)領(lǐng)域

本文件涉及數(shù)據(jù)安全技術(shù)領(lǐng)域，尤其涉及一種圖像識(shí)別模型隱私風(fēng)險(xiǎn)的評(píng)估方法。

背景技術(shù)

深度學(xué)習(xí)模型憑借具有機(jī)械化處理信息的能力，已得到了越來越廣泛的使用。圖像識(shí)別模型(例如人臉識(shí)別模型)就是其中一種常見的業(yè)務(wù)形態(tài)化的模型。圖像識(shí)別模型的原理是對(duì)待識(shí)別對(duì)象的圖像特征與樣本對(duì)象的圖像特征進(jìn)行近似匹配，從而確定出待識(shí)別對(duì)象的身份。

現(xiàn)階段，圖像識(shí)別模型的構(gòu)建尚未考慮隱私性的問題，模型參數(shù)一但公開，存在對(duì)圖像特征進(jìn)行模型逆向工程，還原回圖像的可能。在很多業(yè)務(wù)場(chǎng)景中，這些圖像屬于隱私信息，為此，當(dāng)前亟需一種針對(duì)圖像識(shí)別模型隱私風(fēng)險(xiǎn)的評(píng)估方案，可為圖像識(shí)別模型的投放策略提供一定參考。

發(fā)明內(nèi)容

本說明書實(shí)施例目的是提供一種圖像識(shí)別模型隱私風(fēng)險(xiǎn)的評(píng)估方法，能夠評(píng)估圖像識(shí)別模型是否存在隱私風(fēng)險(xiǎn)。

為了實(shí)現(xiàn)上述目的，本說明書實(shí)施例是這樣實(shí)現(xiàn)的：

第一方面，提供一種圖像識(shí)別模型隱私風(fēng)險(xiǎn)的評(píng)估方法，包括：

基于圖像識(shí)別模型中的輸入向量，對(duì)目標(biāo)對(duì)象對(duì)應(yīng)的原始圖像進(jìn)行特征提取，得到所述目標(biāo)對(duì)象的特征數(shù)據(jù)；

將所述目標(biāo)對(duì)象的特征數(shù)據(jù)輸入至所述圖像識(shí)別模型對(duì)應(yīng)的逆向模型，得到所述目標(biāo)對(duì)象對(duì)應(yīng)的逆向圖像，其中，所述逆向模型具有與所述圖像識(shí)別模型中的輸入向量相反表達(dá)的輸入向量，并以樣本對(duì)象對(duì)應(yīng)的原始圖像為輸出、所述樣本對(duì)象在對(duì)應(yīng)的原始圖像中的特征數(shù)據(jù)為輸入進(jìn)行訓(xùn)練；

基于所述目標(biāo)對(duì)象對(duì)應(yīng)的原始圖像和逆向圖像的相似度，評(píng)估所述圖像識(shí)別模型的隱私風(fēng)險(xiǎn)。

第二方面，提供一種圖像識(shí)別模型隱私風(fēng)險(xiǎn)的評(píng)估裝置，包括：

特征獲取模塊，基于圖像識(shí)別模型中的輸入向量，對(duì)目標(biāo)對(duì)象對(duì)應(yīng)的原始圖像進(jìn)行特征提取，得到所述目標(biāo)對(duì)象的特征數(shù)據(jù)；

圖像還原模塊，將所述目標(biāo)對(duì)象的特征數(shù)據(jù)輸入至所述圖像識(shí)別模型對(duì)應(yīng)的逆向模型，得到所述目標(biāo)對(duì)象對(duì)應(yīng)的逆向圖像，其中，所述逆向模型具有與所述圖像識(shí)別模型中的輸入向量相反表達(dá)的輸入向量，并以樣本對(duì)象對(duì)應(yīng)的原始圖像為輸出、所述樣本對(duì)象在對(duì)應(yīng)的原始圖像中的特征數(shù)據(jù)為輸入進(jìn)行訓(xùn)練；

隱私評(píng)估模塊，基于所述目標(biāo)對(duì)象對(duì)應(yīng)的原始圖像和逆向圖像，評(píng)估所述圖像識(shí)別模型的隱私風(fēng)險(xiǎn)。

第三方面，提供一種電子設(shè)備包括：存儲(chǔ)器、處理器及存儲(chǔ)在所述存儲(chǔ)器上并可在所述處理器上運(yùn)行的計(jì)算機(jī)程序，所述計(jì)算機(jī)程序被所述處理器執(zhí)行：

基于圖像識(shí)別模型中的輸入向量，對(duì)目標(biāo)對(duì)象對(duì)應(yīng)的原始圖像進(jìn)行特征提取，得到所述目標(biāo)對(duì)象的特征數(shù)據(jù)；

將所述目標(biāo)對(duì)象的特征數(shù)據(jù)輸入至所述圖像識(shí)別模型對(duì)應(yīng)的逆向模型，得到所述目標(biāo)對(duì)象對(duì)應(yīng)的逆向圖像，其中，所述逆向模型具有與所述圖像識(shí)別模型中的輸入向量相反表達(dá)的輸入向量，并以樣本對(duì)象對(duì)應(yīng)的原始圖像為輸出、所述樣本對(duì)象在對(duì)應(yīng)的原始圖像中的特征數(shù)據(jù)為輸入進(jìn)行訓(xùn)練；

基于所述目標(biāo)對(duì)象對(duì)應(yīng)的原始圖像和逆向圖像的相似度，評(píng)估所述圖像識(shí)別模型的隱私風(fēng)險(xiǎn)。