[發明專利]一種面向圖像描述系統的通用對抗補丁生成方法及系統

有效

• 申請號: 202210049769.7
• 申請日: 2022-01-17
• 公開（公告）號: CN114372537B
• 公開（公告）日: 2022-10-21
• 發明（設計）人: 徐文淵;冀曉宇;程雨詩;張世博
• 申請（專利權）人: 浙江大學
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06N3/04;G06N3/08
• 代理公司: 杭州求是專利事務所有限公司 33200
• 代理人: 萬尾甜;韓介梅

本發明公開了一種面向圖像描述系統的通用對抗補丁生成方法及系統，該方法為：初始化對抗補??；將對抗補丁通過RandomApply算法添加到隨機圖像中；將添加對抗補丁后的圖像送入圖像描述系統中，計算聯合損失函數；對聯合損失函數進行反向傳播，通過優化器更新對抗補丁圖像的像素值；經過預設次數的迭代后，即可生成可以使深度學習模型輸出錯誤的對抗補丁。與現有對抗補丁相比，本發明首次在圖像描述系統中實現對抗補丁，使圖像描述系統錯誤輸出為指定描述，并可以生成通用的對抗補丁，有效提高對抗補丁的穩定性和場景適應能力。

技術領域

本發明屬于人工智能領域，涉及一種面向圖像描述系統的通用對抗補丁生成方法及系統。

背景技術

近年來人工智能技術的不斷發展，已經被用在了多種重要領域，圖像描述系統就是其應用之一。圖像描述是一種結合計算機視覺和自然語言處理的多模態系統，可以對圖像所包含的內容進行準確識別，自動生成與圖像中的內容相匹配的圖像描述信息。

近些年來，針對圖像的對抗樣本成為人工智能領域的研究熱點，圖像對抗樣本可以在人類無法察覺的情況下，使深度神經網絡產生錯誤的輸出結果，研究對抗樣本對于保護智能識別系統的安全性具有重要的意義。物理對抗樣本是一種特殊的對抗樣本，不同于數字對抗樣本，物理對抗樣本只需要被攝像機捕捉，不需要入侵計算機系統就可以實現。但針對物理攻擊的現有研究大多是為攻擊圖像分類器和目標檢測器，目前沒有針對圖像描述系統的物理攻擊。

發明內容

本發明提供一種面向圖像描述系統的通用對抗補丁生成方法及系統，該方法利用了圖像描述系統的注意力機制，可以根據目標描述語句生成對應的對抗補丁，有效實現在物理世界中對圖像描述系統的魯棒攻擊，為圖像描述系統的安全研究與防護提供了新的思路。

本發明的采用以下技術方案實現：

一種面向圖像描述系統的通用對抗補丁生成方法，包括以下步驟：

1)輸入目標描述語句，根據設計尺寸隨機初始化對抗補丁；

2)隨機選擇一張圖像，通過RandomApply算法將對抗補丁添加到該圖像中。RandomApply算法首先將對抗補丁根據預設范圍隨機旋轉、調整尺寸和調整亮度，然后將處理過后的對抗補丁疊加在選擇圖像的隨機位置。RandomApply算法旨在提高對抗補丁的魯棒性，其表達公式為：

x′＝Apply_l～L(x，l，Trans_t～T(patch，t))

式中patch是所生成的對抗補丁，x是原始選擇的圖片，x′是添加對抗補丁后的圖像，T是預設旋轉、調整尺寸和調整亮度參數的集合，t是隨機選擇得到的對抗補丁旋轉、調整尺寸和調整亮度參數，Trans_t～T(patch,t)表示將對抗補丁按照隨機得到的參數對對抗補丁進行隨機旋轉、調整尺寸和調整亮度，L是預設擺放位置的集合，l是隨機選擇得到的擺放位置，Apply_l～L(x,l,Trans_t～T(patch,t)表示將隨機變化后的Trans_t～T(patch,t)隨機覆蓋到原始選擇的圖像上。

3)將步驟2)生成的添加對抗補丁后的圖像送入圖像描述系統中，根據步驟1)中輸入的目標描述語句計算注意力增強損失函數、目標描述損失函數和補丁平滑度損失函數，加權求得聯合損失函數。所述的注意力增強損失函數用于增強圖像描述系統對于對抗補丁的注意力權重；所述的目標描述損失函數用于使圖像描述系統輸出目標描述語句；所述的補丁平滑度損失函數用于提高對抗補丁在物理世界中的魯棒性。該步驟具體包括以下四個子步驟：