[發(fā)明專(zhuān)利]一種面向YOLO檢測(cè)器的社交圖片隱私保護(hù)方法和裝置

有效

• 申請(qǐng)?zhí)枺?/td>: 201911346202.0
• 申請(qǐng)日: 2019-12-24
• 公開(kāi)（公告）號(hào): CN111144274B
• 公開(kāi)（公告）日: 2023-06-09
• 發(fā)明（設(shè)計(jì)）人: 薛明富;袁成翔;孫仕長(zhǎng);吳至禹
• 申請(qǐng)（專(zhuān)利權(quán)）人: 南京航空航天大學(xué)
• 主分類(lèi)號(hào): G06V40/10
• 分類(lèi)號(hào): G06V40/10;G06T3/00;G06F21/62
• 代理公司: 南京蘇高專(zhuān)利商標(biāo)事務(wù)所(普通合伙) 32204
• 代理人: 李淑靜

1.一種面向YOLO檢測(cè)器的社交圖片隱私保護(hù)方法，其特征在于，所述方法通過(guò)對(duì)圖片生成一個(gè)精心構(gòu)建的對(duì)抗擾動(dòng)，使得圖片中的敏感信息無(wú)法被檢測(cè)器獲取，具體包括以下步驟：

設(shè)定圖片中的敏感信息類(lèi)；

將圖片輸入YOLO模型，獲取敏感物體類(lèi)的概率ρ；

使用敏感物體類(lèi)的概率ρ對(duì)模型的損失函數(shù)loss賦值，并通過(guò)迭代調(diào)整損失函數(shù)值，直到該值低于設(shè)定的閾值T，生成對(duì)抗樣本，迭代過(guò)程形式如下：

其中，x為原始輸入樣本，x'為生成的對(duì)抗樣本，用x初始化x'，經(jīng)過(guò)x初始化后，YOLO會(huì)把輸入x劃分成多個(gè)網(wǎng)格區(qū)域，b代表一個(gè)網(wǎng)格區(qū)域R中所有的物體框B，p為每一個(gè)物體框B所包含的概率分布，y_s是特定的敏感物體類(lèi)標(biāo)簽，S表示敏感信息類(lèi)別的總數(shù)，Pr表示在網(wǎng)格區(qū)域R中類(lèi)標(biāo)簽為y_s的敏感物體的概率函數(shù)；其中，通過(guò)迭代調(diào)整損失函數(shù)值包括：使用敏感物體類(lèi)的概率ρ對(duì)損失函數(shù)loss賦值后，判斷損失函數(shù)值與設(shè)定閾值T的大小，當(dāng)損失函數(shù)值大于設(shè)定閾值T時(shí)，采用Adam算法對(duì)損失函數(shù)值進(jìn)行優(yōu)化，直到該值小于設(shè)定閾值T；

將對(duì)抗樣本輸入YOLO模型進(jìn)行檢測(cè)。

2.根據(jù)權(quán)利要求1所述的面向YOLO檢測(cè)器的社交圖片隱私保護(hù)方法，其特征在于，所述獲取敏感物體類(lèi)的概率ρ包括：

獲取YOLO模型產(chǎn)生的輸出張量，輸出張量中包含了所有可能的物體類(lèi)與物體類(lèi)的概率分布；

從敏感信息類(lèi)標(biāo)簽表中獲取敏感信息的類(lèi)別號(hào)，通過(guò)類(lèi)別號(hào)查找輸出張量中該類(lèi)別的物體是否存在，若存在，則獲取概率分布中該敏感信息類(lèi)的概率，否則不做任何處理；

選擇YOLO對(duì)一個(gè)物體預(yù)測(cè)的最大概率作為敏感物體類(lèi)的概率ρ。

3.根據(jù)權(quán)利要求1所述的面向YOLO檢測(cè)器的社交圖片隱私保護(hù)方法，其特征在于，所述設(shè)定的閾值T＜0.5。

4.一種面向YOLO檢測(cè)器的社交圖片隱私保護(hù)裝置，其特征在于，包括：

敏感信息設(shè)定模塊，用于設(shè)定圖片中的敏感信息類(lèi)；

敏感物體類(lèi)概率獲取模塊，用于將圖片輸入YOLO模型，獲取敏感物體類(lèi)的概率ρ；

對(duì)抗樣本生成模塊，用于使用敏感物體類(lèi)的概率ρ對(duì)模型的損失函數(shù)loss賦值，并通過(guò)迭代調(diào)整損失函數(shù)值，直到該值低于設(shè)定的閾值T，生成對(duì)抗樣本，其中，所述對(duì)抗樣本生成模塊中迭代過(guò)程形式如下：

其中，x為原始輸入樣本，x'為生成的對(duì)抗樣本，用x初始化x'，經(jīng)過(guò)x初始化后，YOLO會(huì)把輸入x劃分成多個(gè)網(wǎng)格區(qū)域，b代表一個(gè)網(wǎng)格區(qū)域R中所有的物體框B，p為每一個(gè)物體框B所包含的概率分布，y_s是特定的敏感物體類(lèi)標(biāo)簽，S表示敏感信息類(lèi)別的總數(shù)，Pr表示在網(wǎng)格區(qū)域R中類(lèi)標(biāo)簽為y_s的敏感物體的概率函數(shù)；所述對(duì)抗樣本生成模塊通過(guò)迭代調(diào)整損失函數(shù)值包括：使用敏感物體類(lèi)的概率ρ對(duì)損失函數(shù)loss賦值后，判斷損失函數(shù)值與設(shè)定閾值T的大小，當(dāng)損失函數(shù)值大于設(shè)定閾值T時(shí)，采用Adam算法對(duì)損失函數(shù)值進(jìn)行優(yōu)化，直到該值小于設(shè)定閾值T；

檢測(cè)模塊，用于將對(duì)抗樣本輸入YOLO模型進(jìn)行檢測(cè)。

5.根據(jù)權(quán)利要求4所述的面向YOLO檢測(cè)器的社交圖片隱私保護(hù)裝置，其特征在于，所述敏感物體類(lèi)概率獲取模塊獲取敏感物體類(lèi)的概率ρ的實(shí)現(xiàn)過(guò)程包括：

獲取YOLO模型產(chǎn)生的輸出張量，輸出張量中包含了所有可能的物體類(lèi)與物體類(lèi)的概率分布；

從敏感信息類(lèi)標(biāo)簽表中獲取敏感信息的類(lèi)別號(hào)，通過(guò)類(lèi)別號(hào)查找輸出張量中該類(lèi)別的物體是否存在，若存在，則獲取概率分布中該敏感信息類(lèi)的概率，否則不做任何處理；

選擇YOLO對(duì)一個(gè)物體預(yù)測(cè)的最大概率作為敏感物體類(lèi)的概率ρ。

6.一種計(jì)算機(jī)設(shè)備，其特征在于，所述設(shè)備包括：

一個(gè)或多個(gè)處理器；

存儲(chǔ)器；以及

一個(gè)或多個(gè)程序，其中所述一個(gè)或多個(gè)程序被存儲(chǔ)在所述存儲(chǔ)器中，并且被配置為由所述一個(gè)或多個(gè)處理器執(zhí)行，所述程序被處理器執(zhí)行時(shí)實(shí)現(xiàn)如權(quán)利要求1-3中的任一項(xiàng)所述方法的步驟。