[發(fā)明專利]抵御惡意樣本攻擊的圖像檢索方法、裝置、設(shè)備及存儲介質(zhì)

有效

• 申請?zhí)枺?/td>: 202110192152.6
• 申請日: 2021-02-19
• 公開（公告）號: CN112860932B
• 公開（公告）日: 2022-08-12
• 發(fā)明（設(shè)計）人: 王勇;王范川;林劼;王曉虎
• 申請（專利權(quán)）人: 電子科技大學(xué)
• 主分類號: G06F16/55
• 分類號: G06F16/55;G06F16/535;G06F16/51;G06F16/583;G06F21/60;G06F21/62;G06N3/08
• 代理公司: 成都金英專利代理事務(wù)所(普通合伙) 51218
• 代理人: 袁英

本發(fā)明公開了一種抵御惡意樣本攻擊的圖像檢索方法、裝置、設(shè)備及存儲介質(zhì)，該方法包括利用對抗生成網(wǎng)絡(luò)判別樣本圖像集中的惡意樣本圖像；根據(jù)所述惡意樣本圖像重構(gòu)樣本圖像集，過濾惡意樣本圖像；利用前向推理網(wǎng)絡(luò)獲取所述樣本圖像集中目標(biāo)樣本圖像的特征向量；根據(jù)所述目標(biāo)樣本圖像的特征向量和庫圖像的特征向量，獲取所述目標(biāo)樣本圖像的檢索結(jié)果。本發(fā)明采用PAHE結(jié)合兩方安全計算技術(shù)，首先通過重構(gòu)惡意樣本的圖像來消除擾動帶來的影響，再將重構(gòu)后的能夠正確分類的圖像進(jìn)行安全特征提取以及安全圖像檢索，不會泄露任何關(guān)于圖像原數(shù)據(jù)、訓(xùn)練梯度、特征向量等信息，旨在解決現(xiàn)有技術(shù)中存在的圖像檢索過程復(fù)雜且信息隱私得不到保證的技術(shù)問題。

技術(shù)領(lǐng)域

本發(fā)明涉及圖像檢索領(lǐng)域，尤其涉及一種抵御惡意樣本攻擊的圖像檢索方法、裝置、設(shè)備及存儲介質(zhì)。

背景技術(shù)

深度神經(jīng)網(wǎng)絡(luò)DNNs在視覺對象識別上展現(xiàn)了前所未有的優(yōu)勢，在云計算領(lǐng)域，使用DNN的基于圖像內(nèi)容的圖像檢索(CBIR)應(yīng)用也變得越來越流行。移動用戶將他們的圖像外包給云服務(wù)器，從而享受有效、智能的CBIR服務(wù)，這是一種經(jīng)濟(jì)高效的方法。基于DNN深度特征的CBIR能夠更智能準(zhǔn)確的產(chǎn)生圖像的搜索結(jié)果。例如自動人臉識別服務(wù)能夠檢索出和特定人物相類似的一組照片。

雖然基于DNN深度特征的CBIR有巨大的商業(yè)和技術(shù)優(yōu)勢，但是在很多實(shí)際的應(yīng)用場景下，直接將圖像外包可能會帶來數(shù)據(jù)隱私泄露的問題，更為重要的是，基于DNN深度特征的CBIR嚴(yán)重受到DNN網(wǎng)絡(luò)本身分類的準(zhǔn)確性的影響，而DNN網(wǎng)絡(luò)很容易收到來自惡意樣本的攻擊：在輸入圖像上加入精心制造的擾動，使得人肉眼上無法識別，但是在前向推理階段，這些小的擾動會使得圖像分類完全錯誤，這將會導(dǎo)致基于DNN深度特征的CBIR完全的失效。

目前，對抗生成網(wǎng)絡(luò)GAN由于其強(qiáng)大的學(xué)習(xí)分布的表達(dá)能力，被廣泛應(yīng)用于生成攻擊以及對抗抗擊。PouyaSamangouei等人提出Defnse-GAN，利用GAN的強(qiáng)大的表達(dá)能力抵御了惡意樣本的攻擊，然而由于生成網(wǎng)絡(luò)模型的輸出、網(wǎng)絡(luò)參數(shù)以及中間結(jié)果是敏感數(shù)據(jù)，同時Defnse-GAN使用梯度下降算法去選擇合適的樣本輸出，顯然梯度信息也是敏感數(shù)據(jù)，因?yàn)楣粽邥ㄟ^梯度信息來獲取生成網(wǎng)絡(luò)的輸出數(shù)據(jù)。同態(tài)加密技術(shù)獲取能夠潛在的解決這個問題，但是并不支持除法和實(shí)數(shù)操作，安全多方技術(shù)或許也是替代方案，但是由于深度神經(jīng)網(wǎng)絡(luò)大的輸入與深的網(wǎng)絡(luò)結(jié)構(gòu)，服務(wù)器之間的通信開銷也無法承擔(dān)。

專利公開號為CN111414964的中國專利公開了一種基于對抗樣本防御的圖像安全識別方法，但該專利技術(shù)方案利用差分進(jìn)化算法生成作為對抗樣本的子圖像過程復(fù)雜且信息隱私得不到保證。

因此，如何保證圖像檢索中模型、原始數(shù)據(jù)、梯度以及中間結(jié)果等隱私信息，同時提高圖像檢索的效率和準(zhǔn)確性上處于可接受的范圍，是一個亟需解決的技術(shù)問題。

上述內(nèi)容僅用于輔助理解本發(fā)明的技術(shù)方案，并不代表承認(rèn)上述內(nèi)容是現(xiàn)有技術(shù)。

發(fā)明內(nèi)容

本發(fā)明的主要目的在于提供一種抵御惡意樣本攻擊的圖像檢索方法、裝置、設(shè)備及存儲介質(zhì)，旨在解決現(xiàn)有技術(shù)中存在的圖像檢索過程復(fù)雜且信息隱私得不到保證的技術(shù)問題。

為實(shí)現(xiàn)上述目的，本發(fā)明提出一種抵御惡意樣本攻擊的圖像檢索方法，包括以下步驟：

利用對抗生成網(wǎng)絡(luò)判別樣本圖像集中的惡意樣本圖像；

根據(jù)所述惡意樣本圖像重構(gòu)樣本圖像集，以使所述樣本圖像集過濾所述惡意樣本圖像；

利用前向推理網(wǎng)絡(luò)獲取所述樣本圖像集中目標(biāo)樣本圖像的特征向量；

根據(jù)所述目標(biāo)樣本圖像的特征向量和庫圖像的特征向量，獲取所述目標(biāo)樣本圖像的檢索結(jié)果。

可選的，利用對抗生成網(wǎng)絡(luò)判別樣本圖像集中的惡意樣本圖像步驟，具體包括：