[發明專利]一種結合上下文語境的視頻彈幕文本審核方法及系統

在審

• 申請號: 202010655180.2
• 申請日: 2020-07-09
• 公開（公告）號: CN112036187A
• 公開（公告）日: 2020-12-04
• 發明（設計）人: 王曉平
• 申請（專利權）人: 上海極鏈網絡科技有限公司
• 主分類號: G06F40/30
• 分類號: G06F40/30;G06F40/289;G06F16/35;G06F16/335
• 代理公司: 上海碩力知識產權代理事務所(普通合伙) 31251
• 代理人: 郭桂峰

1.一種結合上下文語境的視頻彈幕文本審核方法，其特征在于包括以下步驟：

獲取待審核的視頻彈幕文本作為目標審核文本；

敏感詞擴展審核步驟：采用分詞方法對所述的目標審核文本進行分詞處理，獲得所述目標審核文本的文本片段列表，將所述文本片段列表與預設的敏感詞特征庫進行比對匹配，獲得匹配結果，匹配成功則所述敏感詞擴展審核步驟結束，匹配失敗則需繼續下一步審核；

語義審核步驟：將需要進一步審核的目標審核文本輸入訓練好的語義分類模型，獲得判定結果，根據所述判定結果，為視頻彈幕文本增加語義分類標注，根據所述語義分類標注，確定需進一步審核的目標審核文本；

上下文語境審核步驟：獲取所述目標審核文本的上下文語境信息，基于上下文語境審核對所述的上下文語境信息進行檢測分析，獲得審核結果。

2.如權利要求1所述的方法，其特征是，所述的上下文語境信息包括：所述視頻彈幕文本對應的視頻幀的目標結構化信息、場景分類信息，所述視頻彈幕文本對應一定時間范圍內視頻的事件結構化信息，所述視頻彈幕文本對應一定時間范圍內的彈幕上下文文本的分類信息。

3.如權利要求1或2所述的方法，其特征是，所述的上下文語境審核包括上下文視頻語境審核和上下文文本語境審核，所述上下文視頻語境審核基于深度學習方法或傳統方法進行，所述上下文文本語境審核基于語義分類方法進行。

4.如權利要求1所述的方法，其特征是：所述的敏感詞特征庫的構建方法包括：

建立原始敏感詞庫；

對所述原始敏感詞庫的每個敏感詞進行變形映射處理，獲得各種變形映射結果；

將所述各種變形映射結果與所述原始敏感詞庫進行組合構建出敏感詞特征庫。

5.如權利要求4所述的方法，其特征是：所述的變形映射處理包括音字混合變形、諧音變形、拼音縮寫變形、前后鼻音及平翹舌音變形、反讀變形、填字變形、缺字變形、拆解字變形、形近字變形、同義詞變形。

6.如權利要求1所述的方法，其特征是，所述的語義分類模型的訓練方法包括深度學習方法和傳統訓練方法，所述深度學習方法包括：TextCNN、TextRNN、BERT、XLNet、RoBERTa、ALBERT等，所述傳統訓練方法包括邏輯回歸、支持向量機。

7.如權利要求1所述的方法，其特征是，所述的語義分類標注包括：“語義正常”、“語義違規”、“語義模糊”。

8.一種結合上下文語境的視頻彈幕文本審核系統，其特征是包括：敏感詞擴展審核模塊、語義審核模塊、上下文語境審核模塊，其中：

敏感詞擴展審核模塊：用于對目標審核文本進行分詞處理，將所述目標審核文本與預設的敏感詞特征庫進行比對匹配，獲得匹配結果，根據敏感詞匹配結果進行輸出判斷處理，匹配成功則審核結束，匹配失敗則需繼續審核；

語義審核模塊：將需要進一步審核的目標審核文本輸入訓練好的語義分類模型，獲得判定結果，根據所述判定結果，為視頻彈幕文本增加語義分類標注，根據所述語義分類標注，對輸出判斷處理，確定輸出方式及需進一步審核的目標審核文本；

上下文語境審核模塊：獲取所述目標審核文本的上下文語境信息，基于上下文語境審核對所述的上下文語境信息進行檢測分析，并進行綜合判斷，獲得審核結果。

9.如權利要求8所述的系統，其特征是，所述系統還包括：審核結果輸出模塊，所述審核結果輸出模塊對來自敏感詞擴展審核模塊、語義審核模塊、上下文語境審核模塊的輸出進行最終的審核輸出、展示。

10.如權利要求9所述的系統，其特征是：所述審核結果輸出模塊對來自敏感詞擴展審核模塊的輸出，輸出展示的數據包括：檢索詞在輸入文本中出現的位置、匹配到的敏感詞原形、敏感詞在輸入文本中的實際變形映射信息。