[發(fā)明專利]播放內(nèi)容審核方法、裝置及電子設備

在審

• 申請?zhí)枺?/td>: 202111131617.3
• 申請日: 2021-09-26
• 公開（公告）號: CN113873278A
• 公開（公告）日: 2021-12-31
• 發(fā)明（設計）人: 張峰
• 申請（專利權）人: 北京奇藝世紀科技有限公司
• 主分類號: H04N21/2187
• 分類號: H04N21/2187;H04N21/234;H04N21/44;H04N21/488
• 代理公司: 北京柏杉松知識產(chǎn)權代理事務所(普通合伙) 11413
• 代理人: 孫翠賢;孟維娜

本發(fā)明實施例提供了播放內(nèi)容審核方法、裝置及電子設備，應用于內(nèi)容管理技術領域。該方法包括：確定直播視頻流中待審核的目標視頻幀；其中，目標視頻幀的播放時間遲于基準視頻幀，基準視頻幀為直播視頻流中已確定出未違規(guī)的視頻幀；識別目標視頻幀的圖像內(nèi)容信息，得到目標信息；基于目標信息和基準信息的差異，判斷目標視頻幀的播放內(nèi)容相對于基準視頻幀是否發(fā)生變更；基準信息為基準視頻幀的圖像內(nèi)容信息；當判定目標視頻幀的播放內(nèi)容相對于基準視頻幀發(fā)生變更時，則輸出通知消息，通知消息用于指示審核人員對目標視頻幀進行人工審核。通過本方案，可以降低審核人員的工作量。

技術領域

本發(fā)明涉及內(nèi)容管理技術領域，特別是涉及播放內(nèi)容審核方法、裝置及電子設備。

背景技術

隨著互聯(lián)網(wǎng)技術的快速發(fā)展，網(wǎng)絡直播也越來越廣泛地應用到人們的日常生活中。直播平臺為了規(guī)范主播的播放內(nèi)容，往往需要對播放內(nèi)容進行審核。

考慮到播放內(nèi)容的多樣性和隨機性，相關技術中，采用人工審核的方式對播放內(nèi)容進行審核。具體的，審核后臺在接收到主播的直播視頻流后，將直播視頻流推送至審核人員；審核人員通過觀看直播視頻流判斷主播的播放內(nèi)容是否違規(guī)，若判斷播放內(nèi)容違規(guī)，則審核人員采取相應的處理措施對違規(guī)的播放內(nèi)容進行處理。

上述過程中，針對每一直播視頻流，審核人員均需要持續(xù)或周期性多頻次的觀看該直播視頻流，從而導致審核人員的工作量較大，且審核效率較低，限制直播行業(yè)發(fā)展。

發(fā)明內(nèi)容

本發(fā)明實施例的目的在于提供一種播放內(nèi)容審核方法、裝置及電子設備，以降低審核人員工作量。具體技術方案如下：

在本發(fā)明實施的第一方面，首先提供了一種播放內(nèi)容審核方法，包括：

確定直播視頻流中待審核的目標視頻幀；其中，所述目標視頻幀的播放時間遲于基準視頻幀，所述基準視頻幀為所述直播視頻流中已確定出未違規(guī)的視頻幀；

識別所述目標視頻幀的圖像內(nèi)容信息，得到目標信息；

基于所述目標信息和基準信息的差異，判斷所述目標視頻幀的播放內(nèi)容相對于所述基準視頻幀是否發(fā)生變更；所述基準信息為所述基準視頻幀的圖像內(nèi)容信息；

當判定所述目標視頻幀的播放內(nèi)容相對于所述基準視頻幀發(fā)生變更時，則輸出通知消息，所述通知消息用于指示審核人員對所述目標視頻幀進行人工審核。

在本發(fā)明實施的第二方面，還提供了一種播放內(nèi)容審核裝置，包括：

視頻幀確定模塊，用于確定直播視頻流中待審核的目標視頻幀；其中，所述目標視頻幀的播放時間遲于基準視頻幀，所述基準視頻幀為所述直播視頻流中已確定出未違規(guī)的視頻幀；

信息識別模塊，用于識別所述目標視頻幀的圖像內(nèi)容信息，得到目標信息；

變更判斷模塊，用于基于所述目標信息和基準信息的差異，判斷所述目標視頻幀的播放內(nèi)容相對于所述基準視頻幀是否發(fā)生變更；所述基準信息為所述基準視頻幀的圖像內(nèi)容信息；

消息輸出模塊，用于當判定所述目標視頻幀的播放內(nèi)容相對于所述基準視頻幀發(fā)生變更時，則輸出通知消息，所述通知消息用于指示審核人員對所述目標視頻幀進行人工審核。

在本發(fā)明實施的第三方面，還提供了一種計算機可讀存儲介質(zhì)，所述計算機可讀存儲介質(zhì)內(nèi)存儲有計算機程序，所述計算機程序被處理器執(zhí)行時實現(xiàn)上述任一所述的播放內(nèi)容審核方法。

在本發(fā)明實施的第四方面，還提供了一種包含指令的計算機程序產(chǎn)品，當其在計算機上運行時，使得計算機執(zhí)行上述任一所述的播放內(nèi)容審核方法。