[發明專利]一種基于深度學習與隱私保護技術的圖像識別方法及系統

在審

• 申請號: 202210271673.5
• 申請日: 2022-03-18
• 公開（公告）號: CN114626471A
• 公開（公告）日: 2022-06-14
• 發明（設計）人: 康海燕;王驍識
• 申請（專利權）人: 北京信息科技大學
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06V10/774;G06V10/40;G06V10/82;G06N3/04;G06N3/08;G06F21/62
• 代理公司: 北京高沃律師事務所 11569
• 代理人: 劉芳

本發明公開一種基于深度學習與隱私保護技術的圖像識別方法及系統，涉及圖像識別技術領域，方法包括：采用LRP算法確定每一輸出結果對應的各特征參數的特征相關度；根據所有特征相關度確定每一特征參數的平均特征相關度；對各平均特征相關度均添加同樣的噪聲，得到多個加噪后的平均特征相關度；根據每一加噪后的平均特征相關度，確定每一特征參數對應的隱私預算；根據每一隱私預算對每一特征參數添加噪聲，得到多個加噪后的特征參數；利用多個加噪后的特征參數訓練第二圖像識別模型，利用訓練后的第二圖像識別模型對待識別圖像進行識別，得到待識別圖像的識別結果。本發明能夠在保護數據隱私的同時，提高圖像識別模型的識別精度。

技術領域

本發明涉及圖像識別技術領域，特別是涉及一種基于深度學習與隱私保護技術的圖像識別方法及系統。

背景技術

深度學習又稱為深度神經網絡，深度神經網絡主要由四部分構成，分別是輸入層，隱藏層，全連接層，輸出層；輸入特征通過輸入層傳入隱藏層的神經網絡，神經網絡對低層特征逐層提取，形成高級抽象特征，最終通過全連接層傳入輸出層輸出結果。深度學習所使用的特征參數可能會泄露原數據集的隱私信息，因此需要使用差分隱私技術對深度學習所使用的數據進行隱私保護。

目前現有的差分隱私深度學習(深度學習差分隱私)保護方案大多給模型梯度加噪聲，因此會隨著迭代輪數增加而消耗隱私預算?，F有的差分隱私深度學習保護方案中常見的差分隱私隨機梯度下降算法(differentiallyprivate SGD)提出的是一種MA(momentsaccountant)機制，該機制允許對隱私損失進行自動跟蹤分析，可以得到對整體隱私損失的更嚴格的估計。差分隱私隨機梯度下降算法在每個訓練步驟中將噪聲引入到“梯度”參數中，并利用MA機制對訓練過程中總體隱私損失支出進行精細的、自動化的跟蹤分析，以幫助每個參與者控制特別敏感的梯度參數，從而確保參數共享不會泄漏太多隱私。但是差分隱私隨機梯度下降算法存在以下缺點：在深度學習模型需要迭代大量輪數才能訓練出精確的模型時，目前大量針對“梯度”添加噪聲的方案仍然依賴于訓練迭代輪數的數量。當只有很少的隱私預算時，將只有少量迭代次數可用于模型訓練。當需要大量訓練迭代次數來保證模型精度時，這可能會潛在地影響模型效用。現有的差分隱私深度學習保護方案中常見的同一拉普拉斯加噪算法(Identical Laplace Mechanism)則存在著以下缺點：所有參數注入的噪聲量都是相同的，這在實際場景中可能并不理想，因為不同特征和參數通常對模型輸出有著不同的影響。

綜上，現有的差分隱私深度學習保護方案中，基于差分隱私隨機梯度下降算法的圖像識別技術會隨著訓練迭代輪數的增加而不停消耗隱私預算，使可用于圖像識別模型訓練的迭代輪數減少，最終導致圖像識別模型的識別精度降低，基于同一拉普拉斯加噪算法的圖像識別技術對所有特征參數平均地添加噪聲，會造成圖像識別模型訓練效果差，最終也會導致圖像識別模型的識別精度降低。基于此，如何在保護數據隱私的同時，提高圖像識別模型的識別精度，成為本領域技術人員亟待解決的問題。

發明內容

本發明的目的是提供一種基于深度學習與隱私保護技術的圖像識別方法及系統，能夠在保護數據隱私的同時，提高圖像識別模型的識別精度。

為實現上述目的，本發明提供了如下方案：

一種基于深度學習與隱私保護技術的圖像識別方法，所述方法包括：

獲取每一訓練圖像對應的輸出結果和多個特征參數；所述輸出結果為訓練后的第一圖像識別模型的輸出結果；

采用LRP算法確定每一所述輸出結果對應的各所述特征參數的特征相關度；所述特征相關度為所述特征參數與所述輸出結果之間的相關度；

根據所有所述特征相關度確定每一所述特征參數的平均特征相關度；

對各所述平均特征相關度均添加同樣的噪聲，得到多個加噪后的平均特征相關度；

根據每一所述加噪后的平均特征相關度，確定每一所述特征參數對應的隱私預算；