[發明專利]一種對抗樣本的生成方法、系統、裝置及介質

在審

• 申請號: 202210302379.6
• 申請日: 2022-03-25
• 公開（公告）號: CN114648636A
• 公開（公告）日: 2022-06-21
• 發明（設計）人: 夏輝;張睿;姜曙亮;康姿;徐碩
• 申請（專利權）人: 中國海洋大學
• 主分類號: G06V10/26
• 分類號: G06V10/26;G06V10/56;G06V10/764;G06V10/82;G06N3/04;G06N3/08;G06T3/40
• 代理公司: 北京集佳知識產權代理有限公司 11227
• 代理人: 錢灣灣

本發明公開了一種對抗樣本的生成方法、系統、裝置及介質，該方案中，確定原始圖像中的目標區域和背景區域之后，選取N個目標像素點和N個第一干擾像素點，然后使用N個第一干擾像素點的像素值一一對應替換N個目標像素點的像素值，生成第一干擾圖像，并作為對抗樣本。由于第一干擾像素點為背景區域中與目標區域相鄰的像素點，第一干擾像素點與目標像素點的相似性更強，因此，生成的對抗樣本更不易被人眼或者目標檢測器識別，使得生成的對抗樣本有更強的攻擊性，從而能更有針對性的進行防御。

技術領域

本發明涉及目標識別領域，特別是涉及一種對抗樣本的生成方法、系統、裝置及介質。

背景技術

目標檢測得益于深度學習提供源源不斷的動力而熠熠生輝，在機器人導航、智能視頻監控、工業檢測、航空航天等領域展示出了優異的性能，但是它們也繼承了深度神經網絡的脆弱性—易遭受對抗攻擊。對抗攻擊是對輸入的原始圖像添加精心設計擾動生成新的圖像，人的視覺系統幾乎無法察覺這些新圖像(對抗樣本)與原始圖像的差異，但是目標檢測器上對對抗樣本進行測試時會導致目標檢測器無法識別其中的目標對象,對抗樣本的存在暴露出目標檢測器的應用存在嚴重的安全隱患。例如，針對人臉識別系統，攻擊者可輕易地篡改人臉圖片誘導目標檢測器檢測出錯誤信息；針對自動駕駛系統，攻擊者可以使目標檢測器無法正確識別停車標志，甚至可以偽裝車輛使其無法被識別。研究這一問題不僅有助于理解深度神經網絡的工作機制，更有助于激發產生更為強大的防御方案。

發明內容

本發明的目的是提供一種對抗樣本的生成方法、系統、裝置及介質，由于第一干擾像素點為背景區域中與目標區域相鄰的像素點。因此，使用其生成的對抗樣本不易被人眼識別，使得生成的對抗樣本有更強的攻擊性，從而能更有針對性的進行防御。

為解決上述技術問題，本發明提供了一種對抗樣本的生成方法，包括：

確定原始圖像中的目標區域和背景區域，所述目標區域為第一目標對象所在的區域，所述背景區域為所述原始圖像中除所述目標區域之外的區域；

選取所述背景區域中與所述目標區域相鄰的N個第一干擾像素點，及選取所述目標區域中的N個目標像素點，N個所述目標像素點與N個所述第一干擾像素點一一對應，N為不小于1的整數；

將所述原始圖像中的N個所述目標像素點的像素值一一替換為和自身對應的第一干擾像素點的像素值，得到第一干擾圖像，并將所述第一干擾圖像作為對抗樣本。

優選地，將所述原始圖像中的N個所述目標像素點一一替換為和自身對應的干擾像素點，得到第一干擾圖像之后，還包括：

構造第二目標對象；

選取所述第二目標對象所在區域的M個第二干擾像素點，及選取所述目標區域中的M個目標像素點，M個所述第二干擾像素點和M個所述目標像素點一一對應，M為不小于1的整數；

將所述第一干擾圖像中的M個目標像素點的像素值一一替換為和自身對應的第二干擾像素點的像素值，得到第二干擾圖像，并將所述第二干擾圖像作為所述對抗樣本。

優選地，確定原始圖像中的目標區域和背景區域，包括：

使用全卷積神經網絡方法對所述原始圖像進行處理，以將所述第一目標對象所在區域設定為第一顏色，將所述原始圖像中除所述第一目標對象之外的區域設定為第二顏色；

將所述第一顏色所在區域作為所述目標區域，并將所述第二顏色所在區域作為所述背景區域。

優選地，選取所述背景區域中與所述目標區域相鄰的N個第一干擾像素點，及選取所述目標區域中的N個目標像素點，N個所述目標像素點與N個所述第一干擾像素點一一對應，包括：

設定第一預設步長；

根據所述第一預設步長對所述原始圖像中的所有像素點進行輪詢檢測；