[發(fā)明專利]一種針對(duì)激光雷達(dá)的對(duì)抗樣本生成方法和系統(tǒng)

在審

• 申請(qǐng)?zhí)枺?/td>: 202110526682.X
• 申請(qǐng)日: 2021-05-14
• 公開(kāi)（公告）號(hào): CN113361565A
• 公開(kāi)（公告）日: 2021-09-07
• 發(fā)明（設(shè)計(jì)）人: 宣琦;鄭俊杰;劉壯壯;朱城超;朱振強(qiáng);邱君瀚
• 申請(qǐng)（專利權(quán)）人: 浙江工業(yè)大學(xué)
• 主分類號(hào): G06K9/62
• 分類號(hào): G06K9/62;G06K9/00
• 代理公司: 杭州天正專利事務(wù)所有限公司 33201
• 代理人: 王兵

一種針對(duì)激光雷達(dá)的對(duì)抗樣本生成方法，包括以下步驟：1)在點(diǎn)云圖中找出需要被攻擊的目標(biāo)以及目標(biāo)的脆弱區(qū)域；2)在步驟1的目標(biāo)區(qū)域生成對(duì)抗性的獨(dú)立點(diǎn)；3)對(duì)步驟2生成的對(duì)抗性的獨(dú)立點(diǎn)基于擾動(dòng)指標(biāo)進(jìn)行優(yōu)化；4)在步驟3的基礎(chǔ)上基于對(duì)抗點(diǎn)產(chǎn)生對(duì)抗性團(tuán)簇；5)對(duì)步驟4產(chǎn)生的對(duì)抗性團(tuán)簇基于擾動(dòng)指標(biāo)進(jìn)行優(yōu)化，最終生成對(duì)抗樣本。本發(fā)明還提供實(shí)施一種針對(duì)激光雷達(dá)的對(duì)抗樣本生成的方法的系統(tǒng)，由目標(biāo)檢測(cè)以及篩選模塊、對(duì)抗點(diǎn)生成模塊、對(duì)抗點(diǎn)優(yōu)化模塊、對(duì)抗點(diǎn)團(tuán)簇生成模塊、對(duì)抗團(tuán)簇優(yōu)化模塊連接而成。本發(fā)明生成的激光雷達(dá)點(diǎn)云對(duì)抗樣本對(duì)抗性高，相對(duì)原始數(shù)據(jù)的損失小能更好保留原始數(shù)據(jù)的基本特征。

技術(shù)領(lǐng)域

本發(fā)明涉及深度學(xué)習(xí)安全技術(shù)領(lǐng)域，具體為一種針對(duì)激光雷達(dá)的對(duì)抗樣本生成方法和系統(tǒng)，通過(guò)對(duì)原始點(diǎn)云目標(biāo)進(jìn)行脆弱區(qū)域分析，產(chǎn)生對(duì)抗點(diǎn)，優(yōu)化對(duì)抗點(diǎn)的位置和形狀生成對(duì)抗團(tuán)簇，最終生成攻擊目標(biāo)的對(duì)抗樣本和系統(tǒng)。

背景技術(shù)

隨著人工智能技術(shù)的飛速發(fā)展，無(wú)人駕駛汽車正從科幻變成現(xiàn)實(shí)。無(wú)人汽車的自動(dòng)駕駛技術(shù)主要分為三大部分：感知、決策和控制。感知模塊為其決策和控制提供了重要依據(jù)。然而，由于現(xiàn)有傳感器的感知能力有限，極易被外界客觀物理因素影響，從而導(dǎo)致無(wú)人駕駛汽車的感知系統(tǒng)被誤導(dǎo)，進(jìn)而作出錯(cuò)誤的判斷。當(dāng)前主流無(wú)人車主要的感知模塊就是激光雷達(dá)，因此對(duì)于激光雷達(dá)的感知攻防是十分有意義的。

目前主流對(duì)于激光雷達(dá)的攻擊都是以非接觸的方式通過(guò)外部非法物理信號(hào)(稱為虛假信息)對(duì)激光雷達(dá)進(jìn)行干擾和破壞，致使測(cè)量結(jié)果失真的攻擊方式。例如可以通過(guò)發(fā)射相同頻率的激光干擾激光雷達(dá)，以及制造虛假信號(hào)欺騙激光雷達(dá)。這些近距離攻擊手段廉價(jià)、高效且隱蔽，失真的信號(hào)可以輕易導(dǎo)致錯(cuò)誤的駕駛策略從而導(dǎo)致車禍的發(fā)生。因此有針對(duì)的在激光雷達(dá)數(shù)據(jù)上進(jìn)行對(duì)抗樣本生成并且分析可以為及時(shí)發(fā)現(xiàn)近距離攻擊行為，并對(duì)受影響的數(shù)據(jù)進(jìn)行最大程度地恢復(fù)，讓無(wú)人車對(duì)周邊環(huán)境能正確感知奠定基礎(chǔ)。

業(yè)界對(duì)二維圖像的對(duì)抗樣本生成進(jìn)行了廣泛的研究并取得了一定的成果，對(duì)三維數(shù)據(jù)的對(duì)抗樣本生成關(guān)注較少。激光雷達(dá)數(shù)據(jù)一般是三維無(wú)序的和二維圖像數(shù)據(jù)有著很大的差別。但是這些二維方面的工作也為三維對(duì)抗樣本生成指明了方向。

已有專利：

申請(qǐng)?zhí)枮镃N202010390030.3的專利所公開(kāi)的技術(shù)方案，涉及一種2D圖像對(duì)抗樣本生成方法，屬于機(jī)器學(xué)習(xí)和AI安全領(lǐng)域。訓(xùn)練生成對(duì)抗網(wǎng)絡(luò)模型，該模型包括兩個(gè)生成器(樣本生成器G1擾動(dòng)生成器G2)，其中G1的輸入為高維隨機(jī)噪聲，輸出為圖像樣本，采用卷積網(wǎng)絡(luò)搭建，在第一次被調(diào)用時(shí)被訓(xùn)練，用于擴(kuò)充原始數(shù)據(jù)集；G2的輸入為圖像樣本，輸出為該圖像數(shù)據(jù)針對(duì)某一攻擊目標(biāo)的擾動(dòng)；對(duì)抗樣本由圖像和其對(duì)應(yīng)的擾動(dòng)相加得到。此發(fā)明創(chuàng)新的運(yùn)用了雙生成器的生成對(duì)抗網(wǎng)絡(luò)，提高了利用生成對(duì)抗網(wǎng)絡(luò)構(gòu)造對(duì)抗樣本的效率，使生成對(duì)抗樣本的數(shù)量不再受限制，增大了對(duì)抗樣本之間的差異性。

針對(duì)2D圖像的對(duì)抗樣本生成，目前業(yè)界研究較多并且有較為成熟的解決方案，但是針對(duì)3D圖像，特別是激光雷達(dá)產(chǎn)生的3D點(diǎn)云圖像的對(duì)抗樣本生成的相關(guān)工作比較少。

發(fā)明內(nèi)容

本發(fā)明要克服現(xiàn)有技術(shù)的上述缺點(diǎn)，提供一種針對(duì)激光雷達(dá)3D點(diǎn)云數(shù)據(jù)的對(duì)抗樣本生成方法及系統(tǒng)，使能夠在3D點(diǎn)云上生成對(duì)抗樣本，為發(fā)現(xiàn)無(wú)人駕駛深度模型潛在的問(wèn)題提供有力的技術(shù)支持。

為實(shí)現(xiàn)上訴目的，本發(fā)明提供如下方案：

本發(fā)明提供了一種針對(duì)激光雷達(dá)的對(duì)抗樣本生成方法，包括以下步驟：

S1：在點(diǎn)云圖中找出需要被攻擊的目標(biāo)以及目標(biāo)的脆弱區(qū)域；

S2：在步驟S1目標(biāo)區(qū)域生成對(duì)抗性的獨(dú)立點(diǎn)；

S3：對(duì)S2生成的對(duì)抗性的獨(dú)立點(diǎn)基于擾動(dòng)指標(biāo)進(jìn)行優(yōu)化；

S4：基于對(duì)抗點(diǎn)產(chǎn)生對(duì)抗性團(tuán)簇；

S5：對(duì)S4產(chǎn)生的對(duì)抗性團(tuán)簇基于擾動(dòng)指標(biāo)進(jìn)行優(yōu)化。