[發(fā)明專利]基于批歸一化參數(shù)定點(diǎn)化的目標(biāo)檢測(cè)方法、系統(tǒng)、設(shè)備

有效

• 申請(qǐng)?zhí)枺?/td>: 202110434714.3
• 申請(qǐng)日: 2021-04-22
• 公開（公告）號(hào): CN113159177B
• 公開（公告）日: 2022-11-25
• 發(fā)明（設(shè)計(jì)）人: 李淼;張峰;馬春宇;趙婷;張翠婷
• 申請(qǐng)（專利權(quán)）人: 中國(guó)科學(xué)院自動(dòng)化研究所
• 主分類號(hào): G06V10/774
• 分類號(hào): G06V10/774;G06V10/82;G06N3/04;G06N3/08
• 代理公司: 北京市恒有知識(shí)產(chǎn)權(quán)代理事務(wù)所(普通合伙) 11576
• 代理人: 郭文浩;尹文會(huì)

本發(fā)明屬于人工智能、計(jì)算機(jī)視覺領(lǐng)域，具體涉及一種基于批歸一化參數(shù)定點(diǎn)化的目標(biāo)檢測(cè)方法、系統(tǒng)、設(shè)備，旨在解決現(xiàn)有的神經(jīng)網(wǎng)絡(luò)在進(jìn)行批歸一化的過程中，定點(diǎn)化參數(shù)過多，造成精度較差，進(jìn)而導(dǎo)致目標(biāo)檢測(cè)精度差的問題。本方法包括獲取待檢測(cè)的圖像，作為輸入圖像；通過參數(shù)定點(diǎn)化后的目標(biāo)檢測(cè)網(wǎng)絡(luò)獲取所述輸入圖像中各待檢測(cè)目標(biāo)對(duì)應(yīng)的類別以及回歸框；所述目標(biāo)檢測(cè)網(wǎng)絡(luò)基于卷積神經(jīng)網(wǎng)絡(luò)構(gòu)建。本發(fā)明減少了神經(jīng)網(wǎng)絡(luò)在批歸一化過程中的定點(diǎn)化參數(shù)，提交了定點(diǎn)化的精度，進(jìn)而提升了目標(biāo)檢測(cè)的性能。

技術(shù)領(lǐng)域

本發(fā)明屬于人工智能、計(jì)算機(jī)視覺領(lǐng)域，具體涉及一種基于批歸一化參數(shù)定點(diǎn)化的目標(biāo)檢測(cè)方法、系統(tǒng)、設(shè)備。

背景技術(shù)

目標(biāo)檢測(cè)是是近年來計(jì)算機(jī)視覺領(lǐng)域中的一個(gè)熱點(diǎn)問題，它從圖像序列中檢測(cè)目標(biāo)并對(duì)其行為進(jìn)行理解和描述，在視頻監(jiān)控、自動(dòng)駕駛、機(jī)器人等領(lǐng)域有著極其廣泛的應(yīng)用。而目標(biāo)檢測(cè)的關(guān)鍵主要取決于卷積神經(jīng)網(wǎng)絡(luò)的性能。

目前主流的卷積神經(jīng)網(wǎng)絡(luò)基本操作包括卷積、批歸一化、激活。卷積操作雖然占用很多的資源和算力，但只有乘加兩種操作；激活函數(shù)一般都是逐元素的操作方式；批歸一化也是逐元素的操作，運(yùn)算量相比于卷積操作很小，但涉及減、除、乘、加四種操作。

如果考慮到對(duì)網(wǎng)絡(luò)中的所有數(shù)據(jù)都進(jìn)行量化，首先，是對(duì)卷積操作進(jìn)行量化，卷積的操作對(duì)象為激活值和權(quán)重，為了最大程度的減少由量化造成的精度損失，對(duì)權(quán)重的量化會(huì)帶有一個(gè)浮點(diǎn)型的縮放因子，同理，對(duì)激活值的量化也會(huì)有一個(gè)浮點(diǎn)型的縮放因子；另外，對(duì)一個(gè)數(shù)進(jìn)行批歸一化需要對(duì)四個(gè)變量進(jìn)行減、除、乘、加四種操作，對(duì)每個(gè)參數(shù)的定點(diǎn)化操作都會(huì)損失一部分精度。卷積的量化和批歸一化參數(shù)的定點(diǎn)化結(jié)合到一起會(huì)對(duì)模型產(chǎn)生重要的影響，而且網(wǎng)絡(luò)中巨大的參數(shù)量綜合到一起，很可能使得原本已經(jīng)收斂得很好的網(wǎng)絡(luò)變得發(fā)散，網(wǎng)絡(luò)不僅無法完成既定的任務(wù)，甚至量化后的網(wǎng)絡(luò)都無法作為預(yù)訓(xùn)練網(wǎng)絡(luò)進(jìn)行后續(xù)的微調(diào)。基于此，本發(fā)明提出了一種基于批歸一化參數(shù)定點(diǎn)化的目標(biāo)檢測(cè)方法。

發(fā)明內(nèi)容

為了解決現(xiàn)有技術(shù)中的上述問題，即為了解決現(xiàn)有的神經(jīng)網(wǎng)絡(luò)在進(jìn)行批歸一化的過程中，定點(diǎn)化參數(shù)過多，造成精度較差，進(jìn)而導(dǎo)致目標(biāo)檢測(cè)精度差的問題，本發(fā)明第一方面，提出了一種基于批歸一化參數(shù)定點(diǎn)化的目標(biāo)檢測(cè)方法，該方法包括：

S10，獲取待檢測(cè)的圖像，作為輸入圖像；

S20，通過批歸一化參數(shù)定點(diǎn)化后的目標(biāo)檢測(cè)網(wǎng)絡(luò)獲取所述輸入圖像中各待檢測(cè)目標(biāo)對(duì)應(yīng)的類別及回歸框；所述回歸框包括位置及寬高信息；

所述目標(biāo)檢測(cè)網(wǎng)絡(luò)基于卷積神經(jīng)網(wǎng)絡(luò)構(gòu)建；所述卷積神經(jīng)網(wǎng)絡(luò)其對(duì)應(yīng)的批歸一化方法為：

A10，獲取所述卷積神經(jīng)網(wǎng)絡(luò)訓(xùn)練時(shí)的批處理數(shù)據(jù)；

A20，計(jì)算所述批處理數(shù)據(jù)對(duì)應(yīng)的均值μ、方差σ；基于初始化的尺度因子γ、平移因子β，結(jié)合均值，對(duì)方差進(jìn)行做商，得到中間變量γ'、β'；

其中，

A30，將γ'賦值為第一批歸一化變量，將β'/γ'賦值為第二批歸一化變量；賦值后，對(duì)第一批歸一化變量、第二批歸一化變量進(jìn)行定點(diǎn)化處理；

A40，結(jié)合定點(diǎn)化的第一批歸一化變量、第二批歸一化變量，通過變形后的批歸一化算法得到所述卷積神經(jīng)網(wǎng)絡(luò)卷積處理后的待批歸一化數(shù)據(jù)對(duì)應(yīng)的歸一化結(jié)果。

在一些優(yōu)選的實(shí)施方式中，所述第一批歸一化變量的定點(diǎn)化方法為：

將所述第一批歸一化變量拆分為兩個(gè)縮放因子，γ₁和γ₂，即γ”＝γ₁*γ₂；其中，γ”為第一批歸一化變量。

在一些優(yōu)選的實(shí)施方式中，所述第二批歸一化變量的定點(diǎn)化方法為：將所述第二批歸一化變量設(shè)置為整型數(shù)。

在一些優(yōu)選的實(shí)施方式中，所述變形后的批歸一化算法為：