[發(fā)明專利]基于人工智能處理器的實(shí)時(shí)惡意樣本檢測方法及電子裝置

有效

• 申請?zhí)枺?/td>: 202011179567.1
• 申請日: 2020-10-29
• 公開（公告）號(hào): CN112269992B
• 公開（公告）日: 2023-10-20
• 發(fā)明（設(shè)計(jì)）人: 侯銳;王興賓;孟丹
• 申請（專利權(quán)）人: 中國科學(xué)院信息工程研究所
• 主分類號(hào): G06F21/56
• 分類號(hào): G06F21/56;G06N3/063
• 代理公司: 北京君尚知識(shí)產(chǎn)權(quán)代理有限公司 11200
• 代理人: 邵可聲

本發(fā)明提供一種基于人工智能處理器的實(shí)時(shí)惡意樣本檢測方法及電子裝置，包括：根據(jù)目標(biāo)網(wǎng)絡(luò)和惡意樣本檢測機(jī)制，對人工智能處理器的全局片上緩存、脈動(dòng)陣列及非DNN計(jì)算單元進(jìn)行資源劃分；編譯器根據(jù)資源劃分結(jié)果，生成指令文件；當(dāng)惡意樣本檢測機(jī)制判定輸入數(shù)據(jù)為惡意樣本時(shí)，通知目標(biāo)神經(jīng)網(wǎng)絡(luò)停止計(jì)算。本發(fā)明不會(huì)使加速器執(zhí)行目標(biāo)網(wǎng)絡(luò)的推理性能有所下降，保障系統(tǒng)能夠免于受到惡意樣本攻擊的風(fēng)險(xiǎn)，使得該人工智能處理器的資源利用率大幅提高，減少對內(nèi)存帶寬的需求，檢測算法兼容性強(qiáng)和適應(yīng)性好。

技術(shù)領(lǐng)域

本發(fā)明涉及計(jì)算系統(tǒng)和微處理器安全領(lǐng)域，尤其涉及一種基于人工智能處理器的實(shí)時(shí)惡意樣本檢測方法及電子裝置。

背景技術(shù)

近年來，半導(dǎo)體芯片制程工藝發(fā)展速度下降，使得摩爾定律的推進(jìn)速度變緩并逐漸達(dá)到物理極限。現(xiàn)在的計(jì)算機(jī)系統(tǒng)依靠專用的硬件加速器來實(shí)現(xiàn)更好的性能和能效。機(jī)器學(xué)習(xí)模型尤其是深度神經(jīng)網(wǎng)絡(luò)的計(jì)算通常是大量的密集型計(jì)算和內(nèi)存密集型，這兩者都需要專門的硬件加速器來提高其執(zhí)行的性能和能效。學(xué)術(shù)界和工業(yè)界為此做出了巨大的努力，在學(xué)術(shù)界，2014年中科院計(jì)算所陳云霽研究員率先設(shè)計(jì)了一個(gè)高性能、低功耗的神經(jīng)網(wǎng)絡(luò)處理器DianNao，它能夠在3mm²的面積上做到與主流GPU相當(dāng)?shù)男阅堋Ａ硗猓撗芯繄F(tuán)隊(duì)提出了Cambricon指令集，是國際上首個(gè)深度學(xué)習(xí)指令集，能夠在保持高效的同時(shí)通過指令的組合支持各種神經(jīng)網(wǎng)絡(luò)算法。2017年，麻省理工學(xué)院提出了Eyeriss深度學(xué)習(xí)加速器，該加速器采用行數(shù)據(jù)流方法進(jìn)行深度學(xué)習(xí)加速進(jìn)行加速，用于加速卷積神經(jīng)網(wǎng)絡(luò)。在工業(yè)界，谷歌設(shè)計(jì)并開發(fā)了深度神經(jīng)網(wǎng)絡(luò)的ASIC電路TPU(Tensor Processing Unit)，目前已經(jīng)完成了TPUv1.0、TPUv2.0、TPUv3.0三款人工智能處理器芯片，并應(yīng)用到了其云端計(jì)算中心中。與此同時(shí)，英偉達(dá)也開源了深度學(xué)習(xí)加速器NVDLA，是業(yè)界第一個(gè)開源的ASIC人工智能處理器。

雖然學(xué)術(shù)界和工業(yè)界為人工智能處理器的研發(fā)投入了大量的人力、物力，并且取得了很多優(yōu)秀的研究成果。但是深度神經(jīng)網(wǎng)絡(luò)模型自身卻面臨著許多的風(fēng)險(xiǎn)，而目前的人工智能處理器架構(gòu)對此無能為力。例如隨著AI換臉的興起意味著圖像技術(shù)日趨成熟，同時(shí)也面臨“AI黑產(chǎn)”帶來的系列問題，采用Face2Face、FaceSwap、DeepFakes和NeuralTextures等偽造算法制造出來的人臉圖像自然逼真，人眼幾乎無法辨別真?zhèn)危瑫r(shí)能夠使得AI系統(tǒng)能夠做出錯(cuò)誤的判斷，極大地提高了任務(wù)難度。另外，通過預(yù)先訓(xùn)練神經(jīng)網(wǎng)絡(luò)安裝秘密后門對“觸發(fā)器”(trigger)進(jìn)行響應(yīng)，可以人為操縱神經(jīng)網(wǎng)絡(luò)在碰到“觸發(fā)器”之前保持正常識(shí)別，而在攻擊需要時(shí)，用“觸發(fā)器”對神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)準(zhǔn)確率達(dá)90％以上的攻擊，對自動(dòng)駕駛和圖像識(shí)別應(yīng)用造成了巨大的威脅。更為普遍的是，現(xiàn)有的神經(jīng)網(wǎng)絡(luò)模型也非常容易受到對抗樣本的攻擊。

現(xiàn)在的人工智能處理器的設(shè)計(jì)大多數(shù)是為了提高神經(jīng)網(wǎng)絡(luò)模型運(yùn)行的效率和實(shí)時(shí)性進(jìn)行相關(guān)的優(yōu)化設(shè)計(jì)，其人工智能處理器的架構(gòu)設(shè)計(jì)也是向高性能、低功耗、小體積和定制化的方向發(fā)展，使得人工智能處理器能夠帶來更好的性能和能效。然而，在許多的應(yīng)用場景中，需要保護(hù)神經(jīng)網(wǎng)絡(luò)模型自身運(yùn)行的安全性，使得其免受到上述惡意樣本的攻擊。而運(yùn)行惡意樣本檢測算法通常需要人工智能處理器、甚至需要CPU處理器的配合來完成相應(yīng)算法的計(jì)算，而現(xiàn)存的人工智能處理器無法為目標(biāo)神經(jīng)網(wǎng)絡(luò)模型和惡意樣本檢測算法同時(shí)提供有效的計(jì)算能力，尤其是惡意樣本檢測算法包含有特殊的計(jì)算單元(例如傳統(tǒng)機(jī)器學(xué)習(xí)或者特殊的哈希層)。在這些應(yīng)用方面，現(xiàn)存的人工智能處理器正面臨著許多的挑戰(zhàn)。

鑒于目前人工智能處理器日益突出的安全問題，以及惡意樣本檢測算法對新的計(jì)算能力的需求，亟需一種能夠提供混合的、多種計(jì)算能力的人工智能處理器技術(shù)，從而保障人工智能處理器運(yùn)行的神經(jīng)網(wǎng)絡(luò)模型能夠?qū)崟r(shí)的、有效的對惡意樣本攻擊進(jìn)行檢測。對能夠抵抗惡意樣本攻擊的人工智能處理器架構(gòu)的研究具有廣泛的實(shí)用價(jià)值和應(yīng)用前景。

發(fā)明內(nèi)容