[發(fā)明專利]一種圖像識別模型隱私風(fēng)險的評估方法、裝置及電子設(shè)備

在審

• 申請?zhí)枺?/td>: 202010442718.1
• 申請日: 2020-05-22
• 公開（公告）號: CN111539382A
• 公開（公告）日: 2020-08-14
• 發(fā)明（設(shè)計）人: 翁海琴
• 申請（專利權(quán)）人: 支付寶（杭州）信息技術(shù)有限公司
• 主分類號: G06K9/00
• 分類號: G06K9/00;G06K9/46;G06K9/62;G06N3/04;G06N3/08;G06Q10/06
• 代理公司: 北京國昊天誠知識產(chǎn)權(quán)代理有限公司 11315
• 代理人: 許振新

1.一種圖像識別模型隱私風(fēng)險的評估方法，包括：

基于圖像識別模型中的輸入向量，對目標(biāo)對象對應(yīng)的原始圖像進(jìn)行特征提取，得到所述目標(biāo)對象的特征數(shù)據(jù)；

將所述目標(biāo)對象的特征數(shù)據(jù)輸入至所述圖像識別模型對應(yīng)的逆向模型，得到所述目標(biāo)對象對應(yīng)的逆向圖像，其中，所述逆向模型具有與所述圖像識別模型中的輸入向量相反表達(dá)的輸入向量，并以樣本對象對應(yīng)的原始圖像為輸出、所述樣本對象在對應(yīng)的原始圖像中的特征數(shù)據(jù)為輸入進(jìn)行訓(xùn)練；

基于所述目標(biāo)對象對應(yīng)的原始圖像和逆向圖像的相似度，評估所述圖像識別模型的隱私風(fēng)險。

2.根據(jù)權(quán)利要求1所述的方法，

所述樣本對象在對應(yīng)的原始圖像中的至少部分特征數(shù)據(jù)是基于所述圖像識別模型中的輸入向量，對所述樣本對象對應(yīng)的原始圖像進(jìn)行特征提取獲得的。

3.根據(jù)權(quán)利要求1所述的方法，

所述圖像識別模型的隱私風(fēng)險的評估結(jié)果用于確定所述圖像識別模型的投放策略。

4.根據(jù)權(quán)利要求1-3中任一項(xiàng)所述的方法，

基于圖像識別模型中的輸入向量，對目標(biāo)對象對應(yīng)的原始圖像進(jìn)行特征提取，得到所述目標(biāo)對象的特征數(shù)據(jù)，包括：

基于圖像識別模型的嵌入層中的輸入向量，對目標(biāo)對象對應(yīng)的原始圖像進(jìn)行特征提取。

5.根據(jù)權(quán)利要求1-3中任一項(xiàng)所述的方法，

基于所述目標(biāo)對象對應(yīng)的原始圖像和逆向圖像，評估所述圖像識別模型的隱私風(fēng)險，包括：

計算所述目標(biāo)對象對應(yīng)的原始圖像和逆向圖像之間的數(shù)學(xué)距離；

基于所述數(shù)學(xué)距離，確定所述圖像識別模型的隱私風(fēng)險，其中，所述數(shù)學(xué)距離取值大小與所述圖像識別模型的隱私風(fēng)險程度呈負(fù)相關(guān)。

6.根據(jù)權(quán)利要求5中所述的方法，

所述數(shù)學(xué)距離包括歐氏距離、曼哈頓距離、切比雪夫距離、漢明距離中的至少一者。

7.根據(jù)權(quán)利要求1-3中任一項(xiàng)所述的方法，

所述逆向模型包括變分自編碼器模型和生成對抗網(wǎng)絡(luò)模型中的至少一者。

8.根據(jù)權(quán)利要求1-3中任一項(xiàng)所述的方法，

圖像識別模型為人臉識別模型，所述目標(biāo)對象和所述樣本對象對應(yīng)的原始圖像均屬于人臉圖像。

9.一種圖像識別模型隱私風(fēng)險的評估裝置，包括：

特征獲取模塊，基于圖像識別模型中的輸入向量，對目標(biāo)對象對應(yīng)的原始圖像進(jìn)行特征提取，得到所述目標(biāo)對象的特征數(shù)據(jù)；

圖像還原模塊，將所述目標(biāo)對象的特征數(shù)據(jù)輸入至所述圖像識別模型對應(yīng)的逆向模型，得到所述目標(biāo)對象對應(yīng)的逆向圖像，其中，所述逆向模型具有與所述圖像識別模型中的輸入向量相反表達(dá)的輸入向量，并以樣本對象對應(yīng)的原始圖像為輸出、所述樣本對象在對應(yīng)的原始圖像中的特征數(shù)據(jù)為輸入進(jìn)行訓(xùn)練；

隱私評估模塊，基于所述目標(biāo)對象對應(yīng)的原始圖像和逆向圖像，評估所述圖像識別模型的隱私風(fēng)險。

10.一種電子設(shè)備包括：存儲器、處理器及存儲在所述存儲器上并可在所述處理器上運(yùn)行的計算機(jī)程序，所述計算機(jī)程序被所述處理器執(zhí)行：

基于圖像識別模型中的輸入向量，對目標(biāo)對象對應(yīng)的原始圖像進(jìn)行特征提取，得到所述目標(biāo)對象的特征數(shù)據(jù)；

將所述目標(biāo)對象的特征數(shù)據(jù)輸入至所述圖像識別模型對應(yīng)的逆向模型，得到所述目標(biāo)對象對應(yīng)的逆向圖像，其中，所述逆向模型具有所述圖像識別模型中的輸入向量，并以樣本對象對應(yīng)的原始圖像為輸出、所述樣本對象在對應(yīng)的原始圖像中的特征數(shù)據(jù)為輸入訓(xùn)練得到的；

基于所述目標(biāo)對象對應(yīng)的原始圖像和逆向圖像，評估所述圖像識別模型的隱私風(fēng)險。

11.一種計算機(jī)可讀存儲介質(zhì)，所述計算機(jī)可讀存儲介質(zhì)上存儲有計算機(jī)程序，所述計算機(jī)程序被處理器執(zhí)行時實(shí)現(xiàn)如下步驟：

基于圖像識別模型中的輸入向量，對目標(biāo)對象對應(yīng)的原始圖像進(jìn)行特征提取，得到所述目標(biāo)對象的特征數(shù)據(jù)；

將所述目標(biāo)對象的特征數(shù)據(jù)輸入至所述圖像識別模型對應(yīng)的逆向模型，得到所述目標(biāo)對象對應(yīng)的逆向圖像，其中，所述逆向模型具有所述圖像識別模型中的輸入向量，并以樣本對象對應(yīng)的原始圖像為輸出、所述樣本對象在對應(yīng)的原始圖像中的特征數(shù)據(jù)為輸入訓(xùn)練得到的；

基于所述目標(biāo)對象對應(yīng)的原始圖像和逆向圖像，評估所述圖像識別模型的隱私風(fēng)險。