[發明專利]一種后臺直播視頻審核方法

在審

• 申請號: 202110675304.8
• 申請日: 2021-06-17
• 公開（公告）號: CN113422975A
• 公開（公告）日: 2021-09-21
• 發明（設計）人: 陳凡
• 申請（專利權）人: 武漢氪細胞網絡技術有限公司
• 主分類號: H04N21/2187
• 分類號: H04N21/2187;H04N21/24;H04N21/44;H04N21/442;H04L29/06;G06K9/00
• 代理公司: 上海精晟知識產權代理有限公司 31253
• 代理人: 龍凱

本發明公開了一種后臺直播視頻審核方法，用戶發起連麥，將視頻、音頻和視頻截圖發送云端；機器審核，通過圖片識別技術檢測，并主動處理違規；人工審核，將視頻房間與審核人員綁定，進而審核人員進行審核；組長審核，組長檢查審核人員工作情況；通過系統查看規定時段內，審核人員的審核結果，檢查是否有誤判誤審核。本發明有益效果：本發明采用機器審核和人工審核結合，一方面機器審核，提高審核效率，避免人工審核的的不及時，降低了人工審核勞動強度；人工審核解決了機器審核難以審核的內容；提高對審核內容的審核效果；組長審核主要是對人工審核的審核結果進行審核，防止因為人工審核的主觀錯誤，而導致誤判用戶動作,強制用戶下線。

技術領域

本發明涉及軟件管理技術領域，尤其是一種后臺直播視頻審核方法。

背景技術

隨著互聯網技術的快速發展，網絡直播也越來越廣泛地應用到人們的日常生活中，而由于直播內容的多樣性，可能會涉及到恐怖、暴力、色情或政治敏感等話題，因此在用戶直播時后臺還需要判斷直播內容是否違規，以防止違規內容在互聯網上快速傳播。

針對上述問題，現有技術通常采用的是機器審核或人工審核；如下

1、中國專利公開一種違規圖片的識別方法及相關裝置啊(申請號：CN201811157555.1)，用于提高鑒黃服務的效率。本發明實施例方法包括：直播平臺服務器遍歷所有直播間，以獲得各直播間的直播信息；直播平臺服務器根據待審核直播間的視頻流地址從待審核直播間的直播視頻中截取關鍵幀圖片；直播平臺服務器向鑒黃服務器發送請求消息；直播平臺服務器接收鑒黃服務器發送的鑒別結果，鑒別結果包括對關鍵幀圖片的打分，打分與違規性正相關；直播平臺服務器判斷打分是否超過預設數值；若超過，則直播平臺服務器確認關鍵幀圖片違規，并對關鍵幀圖片對應的直播間進行預置處理。

2、中國專利公開了一種直播審核的方法、裝置、服務器和存儲介質(申請號：CN201811628763.5)，該方法包括：按照預設時間間隔獲取直播視頻中的視頻幀或者預設時長的音頻；將每一視頻幀或者音頻分別輸入不同類型的卷積神經網絡模型，得到對應的特征向量；合并所述視頻幀的特征向量或者所述音頻的特征向量，得到所述直播視頻的特征向量；根據所述直播視頻的特征向量，確定所述直播視頻的當前審核類別。本發明實施例提供的技術方案，實現對當前直播視頻的準確審核，解決了現有審核方法中僅根據當前單個視頻幀的檢測結果確定審核類別，易造成誤判、漏判的問題，提高了直播審核的全面性和準確性。

現有技術中雖然可以在一定程度上進行直播內容審核，但是也有以下一些問題：

1、現有技術審核方法中都只采用其中一種審核方式，人工審核或機器審核，如只是人工審核，增加工作人員勞動強度，同時降低了審核效率；如只是機器審核，因為很多內容機器是無法審核的，這樣會導致審核效果產生影響，導致部分鑒定結果不準確,可能會誤判用戶動作,強制下線用戶；

2、現有技術對人工審核沒有監督機制，因為人工審核難免有一定主觀因素，這樣也會存在誤斷和錯斷的情況。

因此，對于上述問題有必要提出一種后臺直播視頻審核方法。

發明內容

針對上述現有技術中存在的不足，本發明的目的在于提供了一種后臺直播視頻審核方法，以解決上述問題。

一種后臺直播視頻審核方法，其方法步驟為：

S1、用戶發起連麥，將視頻、音頻和視頻截圖發送云端；

S2、機器審核，通過圖片識別技術檢測，并主動處理違規；

S3、人工審核，將視頻房間與審核人員綁定，進而審核人員進行審核；

S4、組長審核，組長檢查審核人員工作情況；通過系統查看規定時段內，審核人員的審核結果，檢查是否有誤判誤審核；