[發(fā)明專利]一種針對(duì)直播場(chǎng)景視頻的內(nèi)容審核模型訓(xùn)練方法及裝置

在審

• 申請(qǐng)?zhí)枺?/td>: 201811147396.7
• 申請(qǐng)日: 2018-09-29
• 公開(kāi)（公告）號(hào): CN109284784A
• 公開(kāi)（公告）日: 2019-01-29
• 發(fā)明（設(shè)計(jì)）人: 曹騰;唐會(huì)軍;劉拴林;陳云闊
• 申請(qǐng)（專利權(quán)）人: 北京數(shù)美時(shí)代科技有限公司
• 主分類號(hào): G06K9/62
• 分類號(hào): G06K9/62;G06K9/00
• 代理公司: 北京輕創(chuàng)知識(shí)產(chǎn)權(quán)代理有限公司 11212
• 代理人: 楊立;陳振玉

1.一種針對(duì)直播場(chǎng)景視頻的內(nèi)容審核模型訓(xùn)練方法，其特征在于，包括：

通過(guò)深度學(xué)習(xí)算法訓(xùn)練獲取的人工標(biāo)注樣本，得到初步模型；

計(jì)算當(dāng)前直播場(chǎng)景視頻中相鄰兩幀圖片的相似度，將相似度大于預(yù)設(shè)相似度的兩幀圖片確定為相似圖片，并對(duì)所述相似圖片標(biāo)注相同的標(biāo)簽；

利用所述初步模塊對(duì)獲取的大量未標(biāo)注樣本進(jìn)行識(shí)別，得到標(biāo)簽樣本；

根據(jù)所述人工標(biāo)注樣本、所述相似圖片的標(biāo)簽和所述標(biāo)簽樣本，訓(xùn)練得到內(nèi)容審核模型。

2.根據(jù)權(quán)利要求1所述的方法，其特征在于，根據(jù)所述人工標(biāo)注樣本、所述相似圖片的標(biāo)簽和所述標(biāo)簽樣本，訓(xùn)練得到內(nèi)容審核模型，包括：

通過(guò)深度學(xué)習(xí)算法訓(xùn)練所述人工標(biāo)注樣本、所述相似圖片的標(biāo)簽和所述標(biāo)簽樣本，得到所述內(nèi)容審核模型。

3.根據(jù)權(quán)利要求1所述的方法，其特征在于，利用所述初步模塊對(duì)獲取的大量未標(biāo)注樣本進(jìn)行識(shí)別，得到標(biāo)簽樣本，包括：

利用所述初步模塊對(duì)獲取的大量未標(biāo)注樣本進(jìn)行識(shí)別，得到多個(gè)中間樣本，每個(gè)所述中間樣本具有標(biāo)簽和與所述標(biāo)簽對(duì)應(yīng)的置信度；

將多個(gè)所述中間樣本中標(biāo)簽的置信度滿足預(yù)定條件的中間樣本確定為所述標(biāo)簽樣本。

4.根據(jù)權(quán)利要求1-3中任一項(xiàng)所述的方法，其特征在于，所述未標(biāo)注樣本的數(shù)量遠(yuǎn)大于所述人工標(biāo)注樣本的數(shù)量，所述標(biāo)簽包括：正常、色情、暴恐和涉政四類。

5.一種針對(duì)直播場(chǎng)景視頻的內(nèi)容審核模型訓(xùn)練裝置，其特征在于，包括：

模型訓(xùn)練器，用于通過(guò)深度學(xué)習(xí)算法訓(xùn)練獲取的人工標(biāo)注樣本，得到初步模型；

數(shù)據(jù)處理器，用于計(jì)算當(dāng)前直播場(chǎng)景視頻中相鄰兩幀圖片的相似度，將相似度大于預(yù)設(shè)相似度的兩幀圖片確定為相似圖片，并對(duì)所述相似圖片標(biāo)注相同的標(biāo)簽，且利用所述模型訓(xùn)練器得到的所述初步模塊對(duì)獲取的大量未標(biāo)注樣本進(jìn)行識(shí)別，得到標(biāo)簽樣本；

所述模型訓(xùn)練器，還用于根據(jù)所述人工標(biāo)注樣本、所述相似圖片的標(biāo)簽和所述標(biāo)簽樣本，訓(xùn)練得到內(nèi)容審核模型。

6.根據(jù)權(quán)利要求5所述的裝置，其特征在于，所述模型訓(xùn)練器具體用于通過(guò)深度學(xué)習(xí)算法訓(xùn)練所述人工標(biāo)注樣本、所述相似圖片的標(biāo)簽和所述標(biāo)簽樣本，得到所述內(nèi)容審核模型。

7.根據(jù)權(quán)利要求5所述的裝置，其特征在于，所述數(shù)據(jù)處理器具體用于，利用所述初步模塊對(duì)獲取的大量未標(biāo)注樣本進(jìn)行識(shí)別，得到多個(gè)中間樣本，每個(gè)所述中間樣本具有標(biāo)簽和與所述標(biāo)簽對(duì)應(yīng)的置信度；并將多個(gè)所述中間樣本中標(biāo)簽的置信度滿足預(yù)定條件的中間樣本確定為所述標(biāo)簽樣本。

8.根據(jù)權(quán)利要求5-7中任一項(xiàng)所述的裝置，其特征在于，所述未標(biāo)注樣本的數(shù)量遠(yuǎn)大于所述人工標(biāo)注樣本的數(shù)量，所述標(biāo)簽包括：正常、色情、暴恐和涉政四類。

9.一種計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)，其上存儲(chǔ)有計(jì)算機(jī)程序，其特征在于，所述計(jì)算機(jī)程序被處理器執(zhí)行時(shí)，實(shí)現(xiàn)權(quán)利要求1-4任一項(xiàng)所述的針對(duì)直播場(chǎng)景視頻的內(nèi)容審核模型訓(xùn)練方法。

10.一種針對(duì)直播場(chǎng)景下的快速訓(xùn)練內(nèi)容審核模型的設(shè)備，其特征在于，包括存儲(chǔ)器、處理器以及存儲(chǔ)在所述存儲(chǔ)器中并可在所述處理器上運(yùn)行的計(jì)算機(jī)程序，所述處理器執(zhí)行所述計(jì)算機(jī)程序時(shí)實(shí)現(xiàn)如權(quán)利要求1至4任一項(xiàng)所述的針對(duì)直播場(chǎng)景視頻的內(nèi)容審核模型訓(xùn)練方法的步驟。