[發(fā)明專利]自動駕駛汽車視覺感知系統(tǒng)漏洞檢測的對抗樣本生成方法

有效

• 申請?zhí)枺?/td>: 202010399428.3
• 申請日: 2020-05-12
• 公開（公告）號: CN112115761B
• 公開（公告）日: 2022-09-13
• 發(fā)明（設(shè)計）人: 宮洵;劉嘉威;胡云峰;陳虹
• 申請（專利權(quán)）人: 吉林大學(xué)
• 主分類號: G06V20/58
• 分類號: G06V20/58;G06V10/82;G06F21/57;G06N3/04;G06N3/08
• 代理公司: 吉林長春新紀(jì)元專利代理有限責(zé)任公司 22100
• 代理人: 白冬冬

一種自動駕駛汽車視覺感知系統(tǒng)漏洞檢測的對抗樣本生成方法，屬于自動駕駛技術(shù)領(lǐng)域。本發(fā)明的目的是針對自動駕駛汽車視覺感知系統(tǒng)目標(biāo)識別深度模型，提出一種用于模型漏洞發(fā)現(xiàn)的對抗樣本的生成方法，為進(jìn)一步漏洞檢測及防御算法提供樣本支持的自動駕駛汽車視覺感知系統(tǒng)漏洞檢測的對抗樣本生成方法。本發(fā)明步驟是：信息采集、建立對抗目標(biāo)模型、建立對抗擾動的數(shù)學(xué)模型、對抗擾動生成的優(yōu)化。本發(fā)明探索了用于自動駕駛感知系統(tǒng)漏洞檢測的對抗樣本生成的方法，并藉此方法發(fā)展自動駕駛感知系統(tǒng)漏洞檢測算法，進(jìn)而提高自動駕駛車輛的安全性。

技術(shù)領(lǐng)域

本發(fā)明屬于自動駕駛技術(shù)領(lǐng)域。

背景技術(shù)

自動駕駛汽車通過搭載雷達(dá)、激光雷達(dá)、車載攝像頭和全球定位系統(tǒng)等先進(jìn)傳感設(shè)配，并在人工智能和自動控制等技術(shù)的賦能下，實現(xiàn)車輛在沒有駕駛員干預(yù)下的自主安全行駛。一般來講，自動駕駛系統(tǒng)總體由感知、決策和控制執(zhí)行三大系統(tǒng)組成的。

隨著自動駕駛技術(shù)的發(fā)展，盡管目前自動駕駛車輛的事故率遠(yuǎn)遠(yuǎn)低于人為車輛事故，但是社會、法規(guī)及用戶對自動駕駛技術(shù)安全性要求依然極其苛刻，對自動駕駛的安全性達(dá)到100％的終極目標(biāo)不會改變。安全性對于自動駕駛車輛市場化起著及其重要的作用，而市場化帶來的資本也會提高自動駕駛技術(shù)的發(fā)展。所以，針對自動駕駛系統(tǒng)安全性相關(guān)研究對自動駕駛技術(shù)的發(fā)展有著深遠(yuǎn)的意義。

預(yù)期功能安全在的自動駕駛安全體系評價中占據(jù)至關(guān)重要的地位。預(yù)期功能安全是指當(dāng)駕駛責(zé)任部分或全部由機器完成時，由于感知、算法、執(zhí)行能力受限或駕駛員的誤操作，無法達(dá)到預(yù)期功能，從而影響駕駛的安全性。自動駕駛的感知系統(tǒng)是自動駕駛系統(tǒng)中最重要的環(huán)節(jié)，它收集處理自動駕駛車輛周圍環(huán)境信息，并將這些信息傳遞給自動駕駛車輛的決策系統(tǒng)以供自動駕駛車輛產(chǎn)生正確的決策信息，生成安全合理的駕駛行為。一臺搭載攝像頭的自動駕駛汽車，通過車載攝像頭采集行駛環(huán)境的圖片信息，為自動駕駛的決策系統(tǒng)提供充分的決策依據(jù)。然而，由于車輛實時視覺交互周圍環(huán)境的高復(fù)雜度和高不確定性，感知系統(tǒng)已經(jīng)成為預(yù)期功能安全當(dāng)中的薄弱環(huán)節(jié)，也是容易受到人為攻擊的環(huán)節(jié)。一方面，在逆光、隧道中光線不充足和車載攝像頭被污垢遮蔽等特殊情況下，感知系統(tǒng)很可能接收不到正確的圖像信息，從而無法正確地識別交通參與要素。另一方面，感知系統(tǒng)對交通目標(biāo)的識別一般通過深度神經(jīng)網(wǎng)絡(luò)算法實現(xiàn)，為了平衡算法魯棒性和準(zhǔn)確的矛盾，感知算法本身也可能存在一定的漏洞，即使在良好光照情況下，也可能由于視覺混淆無法對交通參與要素正確地識別。如2016年5月，Tesla公司的Model S智能車在高速公路上將迎面正在轉(zhuǎn)向的“白色卡車”識別為“白云”，并未采取及時的剎停措施，從而釀成了一起重大交通事故。從技術(shù)層面上講，由參與要素本身物理外觀所引起的機器視覺混淆是可以在感知識別模型訓(xùn)練環(huán)節(jié)中通過添加一些極易混淆的“極端樣本”的方式消除的。這些極端樣本通?？梢员蝗搜鄄煊X(如被深度模型歸類為“白云”的汽車)，所以可以通過人工篩選，對應(yīng)的安全漏洞也容易彌補，威脅程度相對較小。

然而，有一些自動駕駛感知系統(tǒng)可能存在的漏洞是無法通過大數(shù)據(jù)人工篩選而發(fā)現(xiàn)的。這類漏洞必須在對抗樣本的“攻擊”下得以發(fā)現(xiàn)。所謂對抗樣本，通常以某類可以被感知系統(tǒng)分類器正確識別的圖片(車載攝像頭采集得到)為基底，隨后通過在基底上添加一些微小的像素值的擾動(對抗擾動)而生成。這類添加了擾動的對抗樣本往往無法被人眼識別，然而一旦被送入已經(jīng)設(shè)計好的基于深度神經(jīng)網(wǎng)絡(luò)模型的分類器就可能誤導(dǎo)其進(jìn)行準(zhǔn)確分類，干擾駕駛決策，進(jìn)而暴露感知系統(tǒng)的漏洞。

對抗樣本無法通過普通攝像裝置采集，它必須由人為設(shè)計而生成。所以，研究對抗樣本的設(shè)計和生成，對暴露自動駕駛視覺感知系統(tǒng)漏洞，為后續(xù)相關(guān)漏洞檢測及防御算法的改進(jìn)，進(jìn)一步提高自動駕駛汽車的安全性有著重要的意義。但是用于自動駕駛汽車視覺感知系統(tǒng)安全漏洞檢測的對抗樣本生成方法依然是一個空白。

專利CN201910579740針對DeepSpeech語音識別模型，提出了一種生成對抗樣本的方法。然而，盡管DeepSpeech采用的是深度模型，卻是循環(huán)深度模型，與智能車感知模塊所經(jīng)常采用的卷積深度模型截然不同。