[發明專利]通過基于視覺的感知系統檢測對抗樣本在審
| 申請號： | 202010186610.0 | 申請日： | 2020-03-17 |
| 公開（公告）號： | CN112084830A | 公開（公告）日： | 2020-12-15 |
| 發明（設計）人： | 賈云瀚;仲震宇;張煜龍;韋韜 | 申請（專利權）人： | 百度(美國)有限責任公司 |
| 主分類號： | G06K9/00 | 分類號： | G06K9/00;G06K9/62;G01C21/28;G06N3/04;G06N3/08 |
| 代理公司： | 北京清亦華知識產權代理事務所(普通合伙) 11201 | 代理人： | 宋圓圓 |
| 地址： | 美國加利福尼亞*** | 國省代碼： | 暫無信息 |
| 權利要求書： | 查看更多 | 說明書： | 查看更多 |
| 摘要： | |||
| 搜索關鍵詞： | 通過 基于 視覺 感知 系統 檢測 對抗 樣本 | ||
1.一種計算機實現的方法，包括：
接收由自主駕駛車輛ADV的捕獲設備捕獲的第一圖像；
執行圖像變換以將所述第一圖像變換為第二圖像；
將對象檢測模型應用于所述第一圖像和所述第二圖像以分別生成第一輸出和第二輸出；
計算所述第一輸出和所述第二輸出之間的相似性度量；以及
如果所述第一圖像和先前圖像之間的相似性度量的時間變化高于預定閾值，檢測所述第一圖像為對抗樣本。
2.如權利要求1所述的方法，其中所述第一輸出和所述第二輸出中的每一個包括邊界框的列表、所述邊界框的位置、以及針對所述輸入圖像的所述邊界框的每個類對象的注釋。
3.如權利要求1所述的方法，其中所述圖像變換包括色深減少、圖像壓縮或模糊變換。
4.如權利要求1所述的方法，其中所述相似性度量是基于多個輸入之間的距離計算的。
5.如權利要求4所述的方法，其中所述距離包括類預測、邊界框的數量和所述邊界框的重疊區域中的差異。
6.如權利要求1所述的方法，還包括：如果檢測到對抗樣本，激活用于所述ADV的故障安全機制。
7.如權利要求6所述的方法，其中所述故障安全機制包括，如果所述ADV處于自動駕駛模式，忽略所述對抗樣本或將控制轉移給所述ADV的用戶。
8.一種非暫時性機器可讀介質，其中存儲有指令，當由處理器執行時，所述指令使得所述處理器執行操作，所述操作包括：
接收由自主駕駛車輛ADV的捕獲設備捕獲的第一圖像；
執行圖像變換以將所述第一圖像變換為第二圖像；
將對象檢測模型應用于所述第一圖像和所述第二圖像以分別生成第一輸出和第二輸出；
計算所述第一輸出和所述第二輸出之間的相似性度量；以及
如果所述第一圖像和先前圖像之間的相似性度量的時間變化高于預定閾值，檢測所述第一圖像為對抗樣本。
9.如權利要求8所述的非暫時性機器可讀介質，其中所述第一輸出和所述第二輸出中的每一個包括邊界框的列表、所述邊界框的位置、以及針對所述輸入圖像的所述邊界框的每個類對象的注釋。
10.如權利要求8所述的非暫時性機器可讀介質，其中所述圖像變換包括色深減少、圖像壓縮或模糊變換。
11.如權利要求8所述的非暫時性機器可讀介質，其中所述相似性度量是基于多個輸入之間的距離計算的。
12.如權利要求11所述的非暫時性機器可讀介質，其中所述距離包括類預測、邊界框的數量和所述邊界框的重疊區域中的差異。
13.如權利要求8所述的非暫時性機器可讀介質，其中所述操作還包括：如果檢測到對抗樣本，激活用于所述ADV的故障安全機制。
14.如權利要求13所述的非暫時性機器可讀介質，其中所述故障安全機制包括，如果所述ADV處于自動駕駛模式，忽略所述對抗樣本或將控制轉移給所述ADV的用戶。
15.一種數據處理系統，包括：
處理器；以及
連接到所述處理器以存儲指令的存儲器，所述指令在由所述處理器執行時使得所述處理器執行操作，所述操作包括：
接收由自主駕駛車輛ADV的捕獲設備捕獲的第一圖像；
執行圖像變換以將所述第一圖像變換為第二圖像；
將對象檢測模型應用于所述第一圖像和所述第二圖像以分別生成第一輸出和第二輸出；
計算所述第一輸出和所述第二輸出之間的相似性度量；以及
如果所述第一圖像和先前圖像之間的相似性度量的時間變化高于預定閾值，檢測所述第一圖像為對抗樣本。
該專利技術資料僅供研究查看技術是否侵權等信息，商用須獲得專利權人授權。該專利全部權利屬于百度(美國)有限責任公司，未經百度(美國)有限責任公司許可，擅自商用是侵權行為。如果您想購買此專利、獲得商業授權和技術合作，請聯系【客服】
本文鏈接：http://www.szxzyx.cn/pat/books/202010186610.0/1.html，轉載請聲明來源鉆瓜專利網。
