[發明專利]一種文本審核方法、裝置、設備和介質

在審

• 申請號: 202010323240.0
• 申請日: 2020-04-22
• 公開（公告）號: CN111506708A
• 公開（公告）日: 2020-08-07
• 發明（設計）人: 王曉平
• 申請（專利權）人: 上海極鏈網絡科技有限公司
• 主分類號: G06F16/33
• 分類號: G06F16/33;G06F16/35
• 代理公司: 北京品源專利代理有限公司 11332
• 代理人: 孟金喆

本發明實施例公開了一種文本審核方法、裝置、設備和介質。該方法應用于級聯審核裝置，級聯審核裝置中包括敏感詞審核模塊、灌水審核模塊和語義審核模塊，敏感詞審核模塊、灌水審核模塊和語義審核模塊依次級聯設置，該方法包括：對待審核文本進行分詞處理，基于敏感詞審核模塊對分詞后的待審核文本進行敏感詞審核；當敏感詞審核通過時，基于灌水審核模塊對待審核文本進行灌水審核；當灌水審核通過時，基于語義審核模塊對待審核文本進行語義審核，并輸出審核結果；其中，當敏感詞審核、灌水審核和語義審核中任一項審核不通過時，輸出審核結果并結束對待審核文本的審核。解決了復雜文本審核困難的問題，提高了違規文本的審核召回率并兼顧了審核效率。

技術領域

本發明實施例涉及網絡信息安全技術，尤其涉及一種文本審核方法、裝置、設備和介質。

背景技術

在計算機技術、網絡通信技術助力下的信息化時代，微博、微信、聊天社區、視頻彈幕等諸多的網絡媒體、社交平臺走進了人們的生活，這些網絡平臺每時每刻都在源源不斷地產生著多樣化的用戶交互數據如聊天、評論、彈幕等文本，這些數據資源在促進人際溝通、豐富人們精神生活的同時，也給信息審核和監管帶來了困難和挑戰。

目前的文本審核方法通常是針對某類所關注的違規類型進行處理，當對具有復雜多樣性特點的文本進行審核時，違規文本審核召回率則大大降低。

發明內容

本發明實施例提供一種文本審核方法、裝置、設備和介質，以實現對具有復雜多樣性特點的違規文本進行審核，提高文本審核的召回率及效率。

第一方面，本發明實施例提供了一種文本審核方法，應用于級聯審核裝置，所述級聯審核裝置中包括敏感詞審核模塊、灌水審核模塊和語義審核模塊，所述敏感詞審核模塊、所述灌水審核模塊和所述語義審核模塊依次級聯設置，所述方法包括：對待審核文本進行分詞處理，基于所述敏感詞審核模塊對分詞后的所述待審核文本進行敏感詞審核；

當所述敏感詞審核通過時，基于所述灌水審核模塊對所述待審核文本進行灌水審核；

當所述灌水審核通過時，基于所述語義審核模塊對所述待審核文本進行語義審核，并輸出審核結果；

其中，當所述敏感詞審核、所述灌水審核和所述語義審核中任一項審核不通過時，輸出審核結果并結束對所述待審核文本的審核。

第二方面，本發明實施例還提供了一種文本審核裝置，該裝置包括：

敏感詞審核模塊，用于對待審核文本進行分詞處理，基于所述敏感詞審核模塊對分詞后的所述待審核文本進行敏感詞審核；

灌水審核模塊，用于當所述敏感詞審核通過時，基于所述灌水審核模塊對所述待審核文本進行灌水審核；

語義審核模塊，用于當所述灌水審核通過時，基于所述語義審核模塊對所述待審核文本進行語義審核，并輸出審核結果；

審核結果輸出模塊，用于當所述敏感詞審核、所述灌水審核和所述語義審核中任一項審核不通過時，輸出審核結果并結束對所述待審核文本的審核。

第三方面，本發明實施例還提供了一種設備，其中，所述設備包括：

一個或多個處理器；

存儲裝置，用于存儲一個或多個程序；

當所述一個或多個程序被所述一個或多個處理器執行，使得所述一個或多個處理器實現如本發明任意實施例所提供的文本審核方法。

第四方面，本發明實施例還提供了一種計算機可讀存儲介質，其上存儲有計算機程序，其中，該程序被處理器執行時實現如本發明任意實施例所提供的文本審核方法。