[發(fā)明專(zhuān)利]一種直播審核方法、裝置、電子設(shè)備及存儲(chǔ)介質(zhì)

有效

• 申請(qǐng)?zhí)枺?/td>: 202011451949.5
• 申請(qǐng)日: 2020-12-09
• 公開(kāi)（公告）號(hào): CN112637621B
• 公開(kāi)（公告）日: 2022-09-13
• 發(fā)明（設(shè)計(jì)）人: 周杰;王鳴輝;孫振邦;王長(zhǎng)虎
• 申請(qǐng)（專(zhuān)利權(quán)）人: 北京字節(jié)跳動(dòng)網(wǎng)絡(luò)技術(shù)有限公司
• 主分類(lèi)號(hào): H04N21/2187
• 分類(lèi)號(hào): H04N21/2187;G06N3/08;G06N3/04
• 代理公司: 北京中知法苑知識(shí)產(chǎn)權(quán)代理有限公司 11226
• 代理人: 李明

本公開(kāi)提供了一種直播審核方法、裝置、電子設(shè)備及存儲(chǔ)介質(zhì)，其中，該方法包括：從獲取的當(dāng)前時(shí)間段的直播間在多個(gè)歷史時(shí)間段中每個(gè)歷史時(shí)間段內(nèi)產(chǎn)生的直播媒體內(nèi)容中提取出直播特征信息，以及從獲取的每個(gè)歷史時(shí)間段對(duì)應(yīng)的歷史送審記錄中提取出送審特征信息；將送審特征信息和直播特征信息進(jìn)行至少一次處理，得到每次處理后的處理特征信息；基于每次處理后的處理特征信息，確定直播間在未來(lái)時(shí)間段的送審結(jié)果。可知，本公開(kāi)利用歷史送審特征信息對(duì)直播特征信息進(jìn)行不同方式的處理，以盡可能的挖掘出歷史送審特征與直播特征信息之間的關(guān)系，使得確定的未來(lái)時(shí)間段的送審結(jié)果較為準(zhǔn)確，且上述過(guò)程自動(dòng)處理，無(wú)需人工參與，審核的效率和準(zhǔn)確率均較高。

技術(shù)領(lǐng)域

本公開(kāi)涉及信息技術(shù)領(lǐng)域，具體而言，涉及一種直播審核方法、裝置、電子設(shè)備及存儲(chǔ)介質(zhì)。

背景技術(shù)

隨著信息技術(shù)的不斷發(fā)展，多媒體直播受到人們的廣泛關(guān)注，例如一場(chǎng)直播就可以帶來(lái)百萬(wàn)流量，使得信息的傳播速度高到難以估量。這在不斷豐富觀眾多樣化觀看需求的同時(shí)，也造成直播行業(yè)內(nèi)主播生產(chǎn)的直播內(nèi)容良莠不齊，例如，某些主播為了提高人氣，在直播平臺(tái)上傳播違規(guī)內(nèi)容，這會(huì)對(duì)社會(huì)造成極為惡劣的影響。為了減少違規(guī)內(nèi)容的傳播，就需要及時(shí)對(duì)直播平臺(tái)上的直播內(nèi)容進(jìn)行違規(guī)審核。

目前，對(duì)直播內(nèi)容的審核主要還是以人工審核為主，審核人員通過(guò)觀看直播抽幀圖來(lái)判斷當(dāng)前直播間是否違規(guī)，一旦發(fā)現(xiàn)涉及違規(guī)內(nèi)容可以予以警告甚至封禁直播間等處罰。然而，上述人工審核方式的審核效率較低，隨著直播內(nèi)容的快速增長(zhǎng)，將無(wú)法滿足直播平臺(tái)在直播內(nèi)容審核方面的需求。

發(fā)明內(nèi)容

本公開(kāi)實(shí)施例提供至少一種直播審核方案，結(jié)合歷史送審記錄和直播媒體內(nèi)容自動(dòng)的進(jìn)行送審預(yù)測(cè)，無(wú)需人工參與，審核效率較高。

主要包括以下幾個(gè)方面：

第一方面，本公開(kāi)實(shí)施例提供了一種直播審核方法，所述方法包括：

獲取當(dāng)前時(shí)間段的直播間在多個(gè)歷史時(shí)間段中每個(gè)歷史時(shí)間段內(nèi)產(chǎn)生的直播媒體內(nèi)容，以及所述多個(gè)歷史時(shí)間段中每個(gè)歷史時(shí)間段對(duì)應(yīng)的歷史送審記錄；

從所述每個(gè)歷史時(shí)間段內(nèi)產(chǎn)生的直播媒體內(nèi)容中提取出直播特征信息，以及從所述每個(gè)歷史時(shí)間段對(duì)應(yīng)的歷史送審記錄中提取出送審特征信息；

將所述送審特征信息和所述直播特征信息進(jìn)行至少一次處理，得到每次處理后的處理特征信息；

基于所述每次處理后的處理特征信息，確定所述直播間在未來(lái)時(shí)間段的送審結(jié)果。

在一種實(shí)施方式中，所述將所述送審特征信息和所述直播特征信息進(jìn)行至少一次處理，得到每次處理后的處理特征信息，包括：

將所述送審特征信息和所述直播特征信息按照第一運(yùn)算操作集進(jìn)行處理，得到第一處理特征信息，以及，

將所述送審特征信息和所述直播特征信息按照第二運(yùn)算操作集進(jìn)行處理，得到第二處理特征信息；所述第一運(yùn)算操作集合與所述第二運(yùn)算操作集具有不同的運(yùn)算操作。

在一種實(shí)施方式中，所述第一運(yùn)算操作集包括第一拼接操作、融合操作和第二拼接操作；所述將所述送審特征信息和所述直播特征信息按照第一運(yùn)算操作集進(jìn)行處理，得到第一處理特征信息，包括：

將所述每個(gè)歷史時(shí)間段的所述送審特征信息和所述直播特征信息進(jìn)行第一拼接操作，得到對(duì)應(yīng)所述每個(gè)歷史時(shí)間段的第一拼接特征信息；

利用訓(xùn)練完成的神經(jīng)網(wǎng)絡(luò)對(duì)各個(gè)歷史時(shí)間段的第一拼接特征信息進(jìn)行特征融合，得到距離當(dāng)前時(shí)間段最近的一個(gè)歷史時(shí)間段對(duì)應(yīng)的融合特征信息；

將所述距離當(dāng)前時(shí)間段最近的一個(gè)歷史時(shí)間段對(duì)應(yīng)的融合特征信息和所述各個(gè)歷史時(shí)間段的所述送審特征信息進(jìn)行第二拼接操作，得到第二拼接特征信息；

基于所述第二拼接特征信息，確定所述第一處理特征信息。