[發明專利]一種新聞評論審核方法、系統、裝置和存儲介質

有效

• 申請號: 202011305016.5
• 申請日: 2020-11-19
• 公開（公告）號: CN112231484B
• 公開（公告）日: 2022-11-08
• 發明（設計）人: 謝宇;賀弘聯;孔澤平;周珞;陳光林;王炫;張訓;湯軍
• 申請（專利權）人: 湖南紅網新媒體集團有限公司
• 主分類號: G06F16/35
• 分類號: G06F16/35;G06F16/33;G06V30/10;G06F40/284
• 代理公司: 暫無信息
• 代理人: 暫無信息

1.一種新聞評論審核方法，其特征在于，包括：

獲取用戶端發起的評論，識別所述評論中的文本和圖片；

提取所述圖片中的文字和元素，識別并判斷所述元素是否包含違規元素，若是，則移除所述圖片；

對所述文本和圖片文字進行語義監測，若監測結果為敏感評論、灌水評論或過激評論，則判定所述評論為違規評論，移除所述評論，并記錄所述評論至數據庫中；

若無法判斷所述評論是否為所述違規評論，則獲取發表所述評論的用戶的用戶情況，根據所述用戶情況對所述評論做進一步判斷，以確定所述評論是否違規；

其中，所述提取所述圖片中的文字和元素，識別并判斷所述元素是否包含違規元素，若是，則移除所述圖片包括：

利用訓練圖片對識別模型進行訓練，以使所述識別模型根據所述訓練圖片輸出對應的類別；

將評論中的圖片輸入至所述識別模型中，識別所述圖片中的元素；

將所述圖片分成網格，并預測每個所述網格的類概率和邊界框；

對于每個所述網格預測一個邊界框于每個元素相對應的概率；

根據各個元素的位置關系判斷元素是否重疊，并根據判斷結果判斷圖片元素是否包含所述違規元素；

若是，則移除所述圖片。

2.根據權利要求1所述的方法，其特征在于，所述對所述文本和圖片文字進行語義監測包括：

對各類情感詞語準備對應的預設數量的樣本詞語，并標定每一所述樣本詞語對應的情感類別；

利用所述樣本詞語對識別模型進行訓練；

將所述文本和所述圖片文字進行分詞處理；

將所述分詞處理后的文本和圖片文字輸入至所述識別模型中進行識別，并輸出第一識別結果。

3.根據權利要求2所述的方法，其特征在于，所述對所述文本和圖片文字進行語義監測還包括：

將所述分出的各個詞與所述樣本詞語匹配；

識別匹配成功的詞語，獲取所述匹配成功的詞語的所述情感類別；

獲取出現次數最多的所述情感類別，并輸出第二識別結果；

若所述第一識別結果與所述第二識別結果不一致，則發送所述評論至審核員端，以使審核員利用所述審核員端對所述評論進行審核。

4.根據權利要求3所述的方法，其特征在于，所述發送所述評論至審核員端包括：

發送所述評論至所述審核員端，以使所述審核員端對所述評論進行人工審核；

若判定所述評論為所述過激評論，獲取所述審核員端標記的所述情感類別為過激的詞語；

將所述詞語補充至所述識別模型中，并移除所述評論。

5.根據權利要求1所述的方法，其特征在于，所述對所述文本和圖片文字進行語義監測包括：

對所述評論進行分詞處理；

提取所有的分詞與所述數據庫的歷史評論匹配；

若匹配數量超過預設值，則判定所述評論為所述灌水評論。

6.根據權利要求1所述的方法，其特征在于，所述獲取發表所述評論用戶的用戶情況，根據所述用戶情況對所述評論進一步判斷包括：

獲取發表所述評論的所述用戶情況，所述用戶情況包括所述用戶近期發表的評論；

提取所述用戶近期的所述評論的監測結果，選出所述監測結果中出現次數最多的所述類別；

若所述出現次數最多的所述類別為所述敏感評論、所述灌水評論或所述過激評論，則判定所述評論為所述違規評論，并移除所述評論。