[發明專利]一種直播內容風險信息控制方法及系統

有效

• 申請號: 202010119760.X
• 申請日: 2020-02-26
• 公開（公告）號: CN111372091B
• 公開（公告）日: 2022-03-29
• 發明（設計）人: 羅海飛;向芒;王燁;武筠霏
• 申請（專利權）人: 廣州趣丸網絡科技有限公司
• 主分類號: H04N21/2187
• 分類號: H04N21/2187;H04N21/233;H04N21/234;H04N21/235;H04N21/24;G06Q10/06
• 代理公司: 北京集佳知識產權代理有限公司 11227
• 代理人: 郭帥

本申請公開了一種直播內容風險信息控制方法及系統，通過風險信息抓取系統抓取直播頻道中的風險內容并生成第一工單，再在第一審核系統內進行一次人工審核，得到第一審核結果，若第一審核結果為疑似違規，則生成第二工單并發送至第二審核系統，在第二審核系統中結合直播頻道的實時音頻進行二次人工復核，避免了音頻識別技術的識別誤差，解決了現有的風險信息控制系統識別技術單一且誤差較大，音頻識別技術使得企業成本提高，無法實現準確、快速以及高效的風險信息控制的技術問題。

技術領域

本申請涉及風險控制技術領域，尤其涉及一種直播內容風險信息控制方法及系統。

背景技術

目前市面上互聯網產品的所有UGC(User Generated Content，用戶生成內容)和PGC(Professional Generated Content，專業生成內容)內容，按形態可拆分為圖片(含視頻截圖)、文本、音頻這幾類，為了確保平臺輸出的內容無違規違法等負面信息，且能通過監管部門審查，需要對平臺發布的內容進行審核。

市面上較為普遍的內容審核方法是用圖像識別技術、文本識別技術和音頻識別技術，對互聯網產品所產生的所有內容進行識別，識別后輸出三種結果：黑名單(即識別為不合規內容)、白名單(即識別為合規內容)和疑似違規(介于不合規與合規之間，識別技術難以界定)，而疑似違規，一般需要人工參與判斷。

現有的風險信息控制通常是將內容拆分為三種形態，分別進行內容識別，不同形態的內容無法結合起來整體、系統地形成畫像，尤其是目前音頻識別技術對漢語的識別并非十分精準，尤其是普通話不標準、方言多、一詞多義或錄音環境嘈雜不清晰的情況，對音頻識別技術的精準度要求高，且音頻識別技術的加入會大大提高企業的成本。

發明內容

本申請提供了一種直播內容風險信息控制方法及系統，解決了現有的風險信息控制系統識別技術單一且誤差較大，音頻識別技術使得企業成本提高，無法實現準確、快速以及高效的風險信息控制的技術問題。

有鑒于此，本申請第一方面提供了一種直播內容風險信息控制方法，所述方法應用于直播系統中，所述直播系統包括直播頻道、風險信息抓取系統、第一審核系統以及第二審核系統，所述方法包括：

所述風險信息抓取系統根據預設風險條件，抓取所述直播頻道中的風險內容并生成第一工單；

所述風險信息抓取系統向所述第一審核系統發送所述第一工單，使得所述第一審核系統在基于所述第一工單生成的審核界面中生成對所述第一工單的第一審核結果；

若所述第一審核結果為疑似違規，則所述第一審核系統生成第二工單，并向所述第二審核系統發送所述第二工單；

所述第二審核系統在基于所述第二工單生成的審核界面中獲取所述直播頻道的實時音頻，并生成對所述第二工單的第二審核結果。

可選地，若所述第一審核結果為不違規，則所述第一審核系統忽略所述第一工單。

可選地，所述風險信息抓取系統根據預設風險條件，抓取所述直播頻道中的風險內容并生成第一工單具體包括：

所述風險信息抓取系統根據預設風險條件，對所述直播頻道中的頻道文本信息以及圖片信息進行識別，抓取所述直播頻道中識別為風險內容的信息并生成第一工單。

可選地，所述風險信息抓取系統根據預設風險條件，抓取所述直播頻道中的風險內容并生成第一工單具體包括：

所述風險信息抓取系統根據預設風險條件，對所述直播頻道中的公屏實時聊天信息進行識別，抓取所述直播頻道中識別為風險內容的信息并生成第一工單。

本申請第二方面提供一種直播內容風險信息控制系統，所述系統包括：

風險信息抓取系統、第一審核系統以及第二審核系統；