[發(fā)明專(zhuān)利]一種量化神經(jīng)網(wǎng)絡(luò)模型的訓(xùn)練及測(cè)試方法、裝置及設(shè)備

有效

• 申請(qǐng)?zhí)枺?/td>: 202010155203.3
• 申請(qǐng)日: 2020-03-06
• 公開(kāi)（公告）號(hào): CN111340226B
• 公開(kāi)（公告）日: 2022-01-25
• 發(fā)明（設(shè)計(jì)）人: 吳玉東;吳一超;梁鼎;于志鵬;呂元昊
• 申請(qǐng)（專(zhuān)利權(quán)）人: 北京市商湯科技開(kāi)發(fā)有限公司
• 主分類(lèi)號(hào): G06N3/08
• 分類(lèi)號(hào): G06N3/08;G06V40/16
• 代理公司: 廣州三環(huán)專(zhuān)利商標(biāo)代理有限公司 44202
• 代理人: 熊永強(qiáng);董文俊

1.一種量化神經(jīng)網(wǎng)絡(luò)模型的訓(xùn)練方法，其特征在于，包括：

獲取訓(xùn)練數(shù)據(jù)；所述訓(xùn)練數(shù)據(jù)包括圖像樣本和標(biāo)簽；所述標(biāo)簽包括所述圖像樣本的身份標(biāo)識(shí)和全精度特征；

將所述訓(xùn)練數(shù)據(jù)輸入量化神經(jīng)網(wǎng)絡(luò)模型進(jìn)行量化處理，得到所述圖像樣本的量化特征；

根據(jù)所述量化特征和所述全精度特征，獲得每個(gè)量化特征的個(gè)體誤差；所述個(gè)體誤差為單個(gè)量化特征量化處理前后的類(lèi)內(nèi)偏差；所述類(lèi)表示具有相同身份標(biāo)識(shí)的圖像樣本對(duì)應(yīng)的多個(gè)量化特征的集合；

根據(jù)所述個(gè)體誤差對(duì)所述量化神經(jīng)網(wǎng)絡(luò)模型進(jìn)行訓(xùn)練，獲得經(jīng)訓(xùn)練的量化神經(jīng)網(wǎng)絡(luò)模型。

2.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述方法還包括：

將所述圖像樣本輸入全精度的神經(jīng)網(wǎng)絡(luò)進(jìn)行處理，得到所述全精度特征。

3.根據(jù)權(quán)利要求2所述的方法，其特征在于，所述根據(jù)所述個(gè)體誤差對(duì)所述量化神經(jīng)網(wǎng)絡(luò)模型進(jìn)行訓(xùn)練，獲得經(jīng)訓(xùn)練的量化神經(jīng)網(wǎng)絡(luò)模型，包括：

根據(jù)所述每個(gè)量化特征的個(gè)體誤差，獲得所述量化神經(jīng)網(wǎng)絡(luò)模型的損失函數(shù)中與所述每個(gè)量化特征對(duì)應(yīng)的第一參數(shù)；

根據(jù)所述第一參數(shù)，獲得所述損失函數(shù)的值；

根據(jù)所述量化神經(jīng)網(wǎng)絡(luò)模型的損失函數(shù)的值，對(duì)所述量化神經(jīng)網(wǎng)絡(luò)模型進(jìn)行訓(xùn)練，獲得經(jīng)訓(xùn)練的量化神經(jīng)網(wǎng)絡(luò)模型。

4.根據(jù)權(quán)利要求3所述的方法，其特征在于，所述根據(jù)所述量化特征和所述全精度特征，獲得每個(gè)量化特征的個(gè)體誤差，包括：

根據(jù)所述量化特征和所述全精度特征，獲得所述每個(gè)量化特征的量化誤差和所述每個(gè)量化特征的類(lèi)誤差；所述量化誤差為單個(gè)量化特征量化處理前后的偏差；所述類(lèi)誤差為單個(gè)量化特征量化處理前后的類(lèi)間偏差；

根據(jù)所述量化誤差和所述類(lèi)誤差，獲得所述每個(gè)量化特征的個(gè)體誤差。

5.根據(jù)權(quán)利要求4所述的方法，其特征在于，在角度空間中，

所述每個(gè)量化特征的量化誤差為與所述每個(gè)量化特征對(duì)應(yīng)的所述全精度特征與所述量化特征之間的夾角；

所述每個(gè)量化特征的類(lèi)誤差為全精度特征的類(lèi)中心與量化特征的類(lèi)中心之間的夾角；其中，所述全精度特征的類(lèi)中心為具有相同身份標(biāo)識(shí)的圖像樣本對(duì)應(yīng)的所有全精度特征的平均值，所述量化特征的類(lèi)中心為具有相同身份標(biāo)識(shí)的圖像樣本對(duì)應(yīng)的所有量化特征的平均值；

所述根據(jù)所述量化誤差和所述類(lèi)誤差，獲得所述每個(gè)量化特征的個(gè)體誤差，包括：

將所述每個(gè)量化特征的量化誤差與所述每個(gè)量化特征的類(lèi)誤差作差，再取絕對(duì)值，獲得所述每個(gè)量化特征的個(gè)體誤差。

6.一種量化神經(jīng)網(wǎng)絡(luò)模型的測(cè)試方法，其特征在于，包括：

獲取人臉圖像；

將所述人臉圖像輸入經(jīng)訓(xùn)練的量化神經(jīng)網(wǎng)絡(luò)模型，進(jìn)行處理，得到人臉圖像對(duì)應(yīng)的量化特征；其中，所述量化神經(jīng)網(wǎng)絡(luò)模型為權(quán)利要求1-5任一項(xiàng)所述的量化神經(jīng)網(wǎng)絡(luò)模型；

將所述人臉圖像對(duì)應(yīng)的量化特征與數(shù)據(jù)庫(kù)中預(yù)存的特征進(jìn)行對(duì)比，獲得人臉識(shí)別結(jié)果。

7.一種量化神經(jīng)網(wǎng)絡(luò)模型的訓(xùn)練裝置，其特征在于，包括：

獲取模塊，用于獲取訓(xùn)練數(shù)據(jù)；所述訓(xùn)練數(shù)據(jù)包括圖像樣本和標(biāo)簽；所述標(biāo)簽包括所述圖像樣本的身份標(biāo)識(shí)和全精度特征；

量化模塊，用于將所述訓(xùn)練數(shù)據(jù)輸入量化神經(jīng)網(wǎng)絡(luò)模型進(jìn)行量化處理，得到所述圖像樣本的量化特征；

訓(xùn)練模塊，用于根據(jù)所述量化特征和所述全精度特征，獲得每個(gè)量化特征的個(gè)體誤差；所述個(gè)體誤差為單個(gè)量化特征量化處理前后的類(lèi)內(nèi)偏差；所述類(lèi)表示具有相同身份標(biāo)識(shí)的圖像樣本對(duì)應(yīng)的多個(gè)量化特征的集合；

訓(xùn)練模塊，用于根據(jù)所述個(gè)體誤差對(duì)所述量化神經(jīng)網(wǎng)絡(luò)模型進(jìn)行訓(xùn)練，獲得經(jīng)訓(xùn)練的量化神經(jīng)網(wǎng)絡(luò)模型。

8.根據(jù)權(quán)利要求7所述的裝置，其特征在于，所述標(biāo)簽還包括所述圖像樣本的全精度特征；所述裝置還包括：

預(yù)處理模塊，用于將所述圖像樣本輸入全精度的神經(jīng)網(wǎng)絡(luò)進(jìn)行處理，得到所述全精度特征。