[發(fā)明專利]用于目標(biāo)檢測(cè)的深度卷積神經(jīng)網(wǎng)絡(luò)的壓縮加速方法

在審

• 申請(qǐng)?zhí)枺?/td>: 201811267286.4
• 申請(qǐng)日: 2018-10-26
• 公開（公告）號(hào): CN111105007A
• 公開（公告）日: 2020-05-05
• 發(fā)明（設(shè)計(jì)）人: 李志遠(yuǎn);余成宇;吳綺;金敏;魯華祥;陳艾東;郭祉薇
• 申請(qǐng)（專利權(quán)）人: 中國(guó)科學(xué)院半導(dǎo)體研究所
• 主分類號(hào): G06N3/04
• 分類號(hào): G06N3/04;G06N3/063;G06N3/08
• 代理公司: 中科專利商標(biāo)代理有限責(zé)任公司 11021
• 代理人: 張宇園

本發(fā)明公開了一種用于目標(biāo)檢測(cè)的深度卷積神經(jīng)網(wǎng)絡(luò)的壓縮加速方法，包括：構(gòu)建并訓(xùn)練一個(gè)用于目標(biāo)檢測(cè)的深度卷積神經(jīng)網(wǎng)絡(luò)；對(duì)深度卷積神經(jīng)網(wǎng)絡(luò)中所有的權(quán)重值和除最后一層外的各層經(jīng)激活函數(shù)后的激活值進(jìn)行量化測(cè)試，量化步長(zhǎng)由小至大，測(cè)試該網(wǎng)絡(luò)的檢測(cè)性能損失情況，在設(shè)定的損失范圍內(nèi)選擇最大的量化步長(zhǎng)；利用該量化步長(zhǎng)，確定神經(jīng)網(wǎng)絡(luò)中權(quán)重值與激活值的截?cái)喾秶瑢?duì)神經(jīng)網(wǎng)絡(luò)加以限制并訓(xùn)練網(wǎng)絡(luò)；對(duì)深度卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行截?cái)嗯c量化，編寫前向代碼。本發(fā)明采用量化技術(shù)降低網(wǎng)絡(luò)存儲(chǔ)量，將網(wǎng)絡(luò)中32位浮點(diǎn)數(shù)運(yùn)算轉(zhuǎn)化為8位整數(shù)運(yùn)算，同時(shí)利用網(wǎng)絡(luò)的稀疏性，將網(wǎng)絡(luò)中滿足稀疏性條件的層轉(zhuǎn)化為稀疏矩陣運(yùn)算，達(dá)到壓縮加速深度卷積神經(jīng)網(wǎng)絡(luò)的目的。

技術(shù)領(lǐng)域

本發(fā)明涉及深度學(xué)習(xí)和人工智能領(lǐng)域，尤其涉及用于目標(biāo)檢測(cè)的深度卷積神經(jīng)網(wǎng)絡(luò)的壓縮加速方法。

背景技術(shù)

由于在信息檢索、自動(dòng)駕駛、機(jī)器人導(dǎo)航和增強(qiáng)現(xiàn)實(shí)等領(lǐng)域的廣泛應(yīng)用前景，目標(biāo)檢測(cè)一直是計(jì)算機(jī)視覺(jué)領(lǐng)域的一個(gè)重要研究方向，得到了學(xué)術(shù)界和工業(yè)界的廣泛研究和關(guān)注。傳統(tǒng)的目標(biāo)檢測(cè)系統(tǒng)主要采用一些人工設(shè)計(jì)的特征，如Haar特征和HoG特征等，利用支持向量機(jī)等分類器對(duì)圖像進(jìn)行滑窗分類來(lái)達(dá)到檢測(cè)物體的效果。近年來(lái)，隨著深度學(xué)習(xí)的興起，卷積神經(jīng)網(wǎng)絡(luò)對(duì)目標(biāo)檢測(cè)帶來(lái)極其有效的解決辦法，基于深度卷積神經(jīng)網(wǎng)絡(luò)的方法取得的結(jié)果均大幅度領(lǐng)先傳統(tǒng)的方法。

然而，由于卷積神經(jīng)網(wǎng)絡(luò)伴隨著大量的存儲(chǔ)量和計(jì)算量，例如經(jīng)典的VGG16網(wǎng)絡(luò)需要約520MB存儲(chǔ)量和153億次乘加運(yùn)算，即便是現(xiàn)有的一些輕量級(jí)網(wǎng)絡(luò)，仍然需要數(shù)十MB存儲(chǔ)量和數(shù)百萬(wàn)次乘加運(yùn)算，如此巨大的存儲(chǔ)量和運(yùn)算量限制了卷積神經(jīng)網(wǎng)絡(luò)的應(yīng)用，尤其是移動(dòng)設(shè)備和嵌入式設(shè)備中。

發(fā)明內(nèi)容

(一)要解決的技術(shù)問(wèn)題

有鑒于此，本發(fā)明的目的在于提供一種用于目標(biāo)檢測(cè)的深度卷積神經(jīng)網(wǎng)絡(luò)的壓縮加速方法，其采用量化技術(shù)降低網(wǎng)絡(luò)的存儲(chǔ)量，將網(wǎng)絡(luò)中32位浮點(diǎn)數(shù)運(yùn)算轉(zhuǎn)化為8位整數(shù)運(yùn)算，同時(shí)利用網(wǎng)絡(luò)稀疏性的特點(diǎn)，將網(wǎng)絡(luò)中滿足稀疏性條件的層轉(zhuǎn)化為稀疏矩陣運(yùn)算，以此達(dá)到壓縮加速用于目標(biāo)檢測(cè)的深度卷積神經(jīng)網(wǎng)絡(luò)的目的。

(二)技術(shù)方案

本發(fā)明提出了一種用于目標(biāo)檢測(cè)的深度卷積神經(jīng)網(wǎng)絡(luò)的壓縮加速方法，包括下列步驟：

步驟1：構(gòu)建并訓(xùn)練出一個(gè)用于目標(biāo)檢測(cè)的深度卷積神經(jīng)網(wǎng)絡(luò)；

步驟2：對(duì)深度卷積神經(jīng)網(wǎng)絡(luò)中所有的權(quán)重值和除最后一層外的各層經(jīng)激活函數(shù)后的激活值進(jìn)行量化測(cè)試，量化步長(zhǎng)由小至大，測(cè)試該深度卷積神經(jīng)網(wǎng)絡(luò)的檢測(cè)性能損失情況，在設(shè)定的損失范圍內(nèi)，選擇最大的量化步長(zhǎng)；

步驟3：利用上述最大的量化步長(zhǎng)，根據(jù)網(wǎng)絡(luò)需要的壓縮位數(shù)，確定深度卷積神經(jīng)網(wǎng)絡(luò)中權(quán)重值與激活值的截?cái)喾秶瑢?duì)深度卷積神經(jīng)網(wǎng)絡(luò)加以限制，并訓(xùn)練深度卷積神經(jīng)網(wǎng)絡(luò)；

步驟4：對(duì)該深度卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行截?cái)嗯c量化，并對(duì)量化后的深度卷積神經(jīng)網(wǎng)絡(luò)前向代碼進(jìn)行編寫。

進(jìn)一步地，步驟1包括：

步驟11：設(shè)計(jì)深度卷積神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)，設(shè)置卷積層和池化層的參數(shù)，除最后一個(gè)卷積層外，在每個(gè)卷積層與激活函數(shù)之間添加批量歸一化層；

步驟12：將訓(xùn)練集的數(shù)據(jù)輸入至深度卷積神經(jīng)網(wǎng)絡(luò)，采用隨機(jī)梯度下降法對(duì)深度卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練，當(dāng)深度卷積神經(jīng)網(wǎng)絡(luò)在測(cè)試集上的誤差收斂時(shí)，終止訓(xùn)練，保存深度卷積神經(jīng)網(wǎng)絡(luò)各個(gè)層的參數(shù)。

進(jìn)一步地，步驟11包括：激活函數(shù)采用ReLU。

進(jìn)一步地，步驟2包括：

步驟21：對(duì)網(wǎng)絡(luò)中所有的權(quán)重值和除最后一層外的各層經(jīng)激活函數(shù)后的激活值進(jìn)行量化，量化方式采用均勻量化，量化公式如下：