[發(fā)明專利]一種面向YOLO檢測(cè)器的社交圖片隱私保護(hù)方法和裝置

有效

• 申請(qǐng)?zhí)枺?/td>: 201911346202.0
• 申請(qǐng)日: 2019-12-24
• 公開(kāi)（公告）號(hào): CN111144274B
• 公開(kāi)（公告）日: 2023-06-09
• 發(fā)明（設(shè)計(jì)）人: 薛明富;袁成翔;孫仕長(zhǎng);吳至禹
• 申請(qǐng)（專利權(quán)）人: 南京航空航天大學(xué)
• 主分類(lèi)號(hào): G06V40/10
• 分類(lèi)號(hào): G06V40/10;G06T3/00;G06F21/62
• 代理公司: 南京蘇高專利商標(biāo)事務(wù)所(普通合伙) 32204
• 代理人: 李淑靜

本發(fā)明提出了一種面向YOLO檢測(cè)器的社交圖片隱私保護(hù)方法和裝置。所述方法通過(guò)對(duì)圖片生成一個(gè)精心構(gòu)建的對(duì)抗擾動(dòng)，使得圖片中的敏感信息無(wú)法被檢測(cè)器獲取。方法包括：設(shè)定圖片中的敏感信息類(lèi)；將圖片輸入YOLO模型，獲取敏感物體類(lèi)的概率ρ；使用敏感物體類(lèi)的概率ρ對(duì)模型的損失函數(shù)loss賦值，并通過(guò)迭代優(yōu)化損失函數(shù)，使損失函數(shù)的值低于預(yù)設(shè)的閾值T，從而生成有效的對(duì)抗樣本；將對(duì)抗樣本輸入YOLO模型進(jìn)行檢測(cè)。本方法可成功使得YOLO目標(biāo)檢測(cè)器無(wú)法獲取社交圖片中的隱私信息。

技術(shù)領(lǐng)域

本發(fā)明屬于網(wǎng)絡(luò)空間安全和人工智能安全領(lǐng)域，具體涉及一種社交圖片隱私保護(hù)方法，可以有效防御基于深度神經(jīng)網(wǎng)絡(luò)(DNNs)的YOLO(YouOnly?Look?Once)目標(biāo)檢測(cè)器的隱私竊取攻擊。

背景技術(shù)

近年來(lái)，人工智能技術(shù)已廣泛應(yīng)用于各個(gè)領(lǐng)域，包括一些安全相關(guān)領(lǐng)域。然而，這也帶來(lái)一系列的安全問(wèn)題，其中一個(gè)重要的安全威脅就是大量用戶隱私信息的泄露。隨著社交平臺(tái)的流行，許多用戶熱衷于將自己的照片分享到社交網(wǎng)站等社交平臺(tái)。據(jù)統(tǒng)計(jì)，每天大約有上億張圖片被上傳到社交網(wǎng)站，并且?guī)缀趺恳粋€(gè)用戶都曾在社交網(wǎng)站上傳過(guò)自己的生活照片。在用戶毫不知情的情況下，這些被上傳到社交平臺(tái)的個(gè)人生活照片很可能會(huì)被非法地用于人工智能系統(tǒng)(尤其是深度學(xué)習(xí)模型)的訓(xùn)練。更為嚴(yán)重的是，一些不法分子甚至?xí)挠脩羯蟼鞯膱D片中提取出重要的敏感信息，如用戶的面部特征、指紋、家庭成員、興趣愛(ài)好等，從而造成用戶隱私信息的泄露。在此類(lèi)攻擊中，首先，他們會(huì)利用目標(biāo)檢測(cè)器對(duì)圖片中的信息進(jìn)行提取和分析，獲得其中重要的敏感信息，如用戶興趣愛(ài)好、家庭成員狀況等；然后，基于上述提取出的敏感信息，這些不法分子可以向目標(biāo)用戶進(jìn)行定向的廣告推送以獲得商業(yè)利益或作其他用途。對(duì)于用戶而言，隱私信息泄露和不勝其煩的廣告推送會(huì)嚴(yán)重地影響用戶的信息安全和日常生活。

已有一些簡(jiǎn)單的圖片隱私保護(hù)方法，包括：模糊化處理、添加噪聲和馬賽克等。這些簡(jiǎn)單的保護(hù)方法對(duì)于基于機(jī)器學(xué)習(xí)的圖像檢測(cè)系統(tǒng)的隱私竊取攻擊收效甚微。先進(jìn)的目標(biāo)檢測(cè)器，如YOLO，依然可以成功檢測(cè)出經(jīng)這些方法處理后的圖片中的隱私信息。此外，目前還有兩種更為復(fù)雜的圖片隱私信息的保護(hù)方法：用戶權(quán)限控制和圖像加密。用戶權(quán)限控制需要用戶事先進(jìn)行訪問(wèn)權(quán)限設(shè)置，該方法試圖切斷陌生人員接觸敏感信息的途徑，從源頭實(shí)現(xiàn)用戶隱私保護(hù)。然而這種方法會(huì)對(duì)用戶的社交體驗(yàn)造成不必要的麻煩。圖像加密技術(shù)雖然簡(jiǎn)單快速，但是頻繁的圖像加密、解密會(huì)浪費(fèi)大量網(wǎng)絡(luò)和計(jì)算機(jī)資源。因此，使用已有的社交圖片保護(hù)方法難以有效地解決智能圖像檢測(cè)系統(tǒng)竊取隱私的問(wèn)題。

發(fā)明內(nèi)容

發(fā)明目的：針對(duì)目標(biāo)檢測(cè)器非法竊取用戶社交圖片中的隱私信息，已有的圖片隱私保護(hù)方法不能有效地防御此類(lèi)攻擊，而且影響了用戶的社交體驗(yàn)的問(wèn)題，本發(fā)明提出一種基于對(duì)抗樣本的社交圖片隱私保護(hù)方法和裝置，可成功使得YOLO目標(biāo)檢測(cè)器無(wú)法獲取社交圖片中特定的隱私信息。

技術(shù)方案：根據(jù)本發(fā)明的第一方面，提供一種面向YOLO檢測(cè)器的社交圖片隱私保護(hù)方法，所述方法通過(guò)對(duì)圖片生成一個(gè)精心構(gòu)建的對(duì)抗擾動(dòng)，使得圖片中的敏感信息無(wú)法被檢測(cè)器獲取，具體包括以下步驟：

設(shè)定圖片中的敏感信息類(lèi)；

將圖片輸入YOLO模型，獲取敏感物體類(lèi)的概率ρ；

使用敏感物體類(lèi)的概率ρ對(duì)模型的損失函數(shù)loss賦值，并通過(guò)迭代調(diào)整損失函數(shù)值，直到該值低于設(shè)定的閾值T，生成對(duì)抗樣本；

將對(duì)抗樣本輸入YOLO模型進(jìn)行檢測(cè)。

根據(jù)本發(fā)明的第二方面，提供一種面向YOLO檢測(cè)器的社交圖片隱私保護(hù)裝置，包括：

敏感信息設(shè)定模塊，用于設(shè)定圖片中的敏感信息類(lèi)；

敏感物體類(lèi)概率獲取模塊，用于將圖片輸入YOLO模型，獲取敏感物體類(lèi)的概率ρ；

對(duì)抗樣本生成模塊，用于使用敏感物體類(lèi)的概率ρ對(duì)模型的損失函數(shù)loss賦值，并通過(guò)迭代調(diào)整損失函數(shù)值，直到該值低于設(shè)定的閾值T，生成對(duì)抗樣本；