[發明專利]一種新聞評論審核方法、系統、裝置和存儲介質

有效

• 申請號: 202011305016.5
• 申請日: 2020-11-19
• 公開（公告）號: CN112231484B
• 公開（公告）日: 2022-11-08
• 發明（設計）人: 謝宇;賀弘聯;孔澤平;周珞;陳光林;王炫;張訓;湯軍
• 申請（專利權）人: 湖南紅網新媒體集團有限公司
• 主分類號: G06F16/35
• 分類號: G06F16/35;G06F16/33;G06V30/10;G06F40/284
• 代理公司: 暫無信息
• 代理人: 暫無信息

本申請涉及一種新聞評論審核方法、系統、裝置和存儲介質。包括獲取用戶端發起的評論，識別評論中的文本和圖片；提取圖片中的文字和元素，識別并判斷元素是否包含違規元素，若是，則移除所述圖片；對文本和圖片文字進行語義監測，若監測結果為敏感評論、灌水評論或過激評論，則判定評論為違規評論，移除所述評論，并記錄評論至數據庫中；若無法判斷評論是否為違規評論，則獲取發表評論用戶的用戶情況，根據用戶情況對評論做進一步判斷，以確定評論是否違規。本申請具有加大審核效率，減少不正當評論的通過率的效果。

技術領域

本申請涉及評論審核的領域，尤其是涉及一種新聞評論審核方法、系統、裝置和存儲介質。

背景技術

隨著信息化時代的發展，網絡傳播速度越來越快，上網刷帖、看新聞、刷微博等已成為當代人的流行活動，同時，當代人也熱衷于帖子、新聞或微博留言評論、表達觀點。

但是與此同時，網上出現了控評、惡意刷屏、評論政治等不正當評論，對新聞內容和信息傳播造成不好的影響。

現有的新聞評論審核一般為后臺管理人員人工審核，當審核評論內容過多或者評論內容量超重時，會導致很多非法或者反動黃色的評論內容被當成正常評論，通過管理員的審核，從而顯示在用戶端界面，造成極大的社會安全和內容安全隱患。

發明內容

為了加大審核力度，減少不正當評論的通過率，本申請提供一種新聞評論審核方法、系統、裝置和存儲介質。

第一方面，本申請提供的一種新聞評論審核方法，采用如下的技術方案：

一種新聞評論審核方法，包括：

獲取用戶端發起的評論，識別所述評論中的文本和圖片；

提取所述圖片中的文字和元素，識別并判斷所述元素是否包含違規元素，若是，則移除所述圖片；

對所述文本和圖片文字進行語義監測，若監測結果為敏感評論、灌水評論或過激評論，則判定所述評論為違規評論，移除所述評論，并記錄所述評論至所述數據庫中；

若無法判斷所述評論是否為違規評論，則獲取發表所述評論用戶的用戶情況，根據所述用戶情況對所述評論做進一步判斷，以確定所述評論是否違規。

通過采用上述技術方案，當用戶對新聞內容進行評論后，服務器獲取用戶發起的評論，并識別評論中的文本部分和圖片部分，識別圖片中包含的元素部分，對元素進行判斷，若圖片中包含違規的元素，例如具有政治導向的元素或具有色情暴力的元素等，則判定該圖片為違規圖片，則應把這張圖片刪除，避免該圖片出現在新聞評論中，出現不好的影響；再提取圖片中的文字部分和評論中的文字部分，對該文字進行語義監測，若該評論的文字部分出現為敏感評論、灌水評論或過激評論，則刪除該評論，并將該條評論記錄至數據庫中，避免下次有類似的評論，無需再對評論進行判定，直接刪除即可，從而避免違規評論出現在新聞內容的評論區，若出現服務器無法判定的評論，則根據發表這條評論的用戶本身，對這條評論進行判定，若該用戶近期大多評論均為違規評論，則判定該條評論也為違規評論，避免該條評論出現在新聞內容的評論區，從而導致不好的輿論影響，也能夠進一步加強對評論的審核力度和效率，減少不正當評論的通過率。

本發明在一較佳示例中可以進一步配置為：所述對所述文本和圖片文字進行語義監測包括：

對各類情感詞語準備對應的預設數量的樣本詞語，并標定每一樣本詞語對應的情感類別；

利用所述樣本詞語對識別模型進行訓練；

將所述文本和所述圖片文字進行分詞處理；

將所述分詞處理后的文本和圖片文字輸入至所述識別模型中進行識別，并輸出第一識別結果。