[發(fā)明專利]一種文本審核方法、裝置、設(shè)備和介質(zhì)

在審

• 申請?zhí)枺?/td>: 202010323240.0
• 申請日: 2020-04-22
• 公開（公告）號: CN111506708A
• 公開（公告）日: 2020-08-07
• 發(fā)明（設(shè)計）人: 王曉平
• 申請（專利權(quán)）人: 上海極鏈網(wǎng)絡(luò)科技有限公司
• 主分類號: G06F16/33
• 分類號: G06F16/33;G06F16/35
• 代理公司: 北京品源專利代理有限公司 11332
• 代理人: 孟金喆

1.一種文本審核方法，其特征在于，應(yīng)用于級聯(lián)審核裝置，所述級聯(lián)審核裝置中包括敏感詞審核模塊、灌水審核模塊和語義審核模塊，所述敏感詞審核模塊、所述灌水審核模塊和所述語義審核模塊依次級聯(lián)設(shè)置，所述方法包括：

對待審核文本進行分詞處理，基于所述敏感詞審核模塊對分詞后的所述待審核文本進行敏感詞審核；

當所述敏感詞審核通過時，基于所述灌水審核模塊對所述待審核文本進行灌水審核；

當所述灌水審核通過時，基于所述語義審核模塊對所述待審核文本進行語義審核，并輸出審核結(jié)果；

其中，當所述敏感詞審核、所述灌水審核和所述語義審核中任一項審核不通過時，輸出審核結(jié)果并結(jié)束對所述待審核文本的審核。

2.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述敏感詞審核模塊包括敏感詞匹配子模塊；其中，基于所述敏感詞審核模塊對分詞后的所述待審核文本進行敏感詞審核，包括：

讀取預(yù)設(shè)敏感詞庫中的敏感詞，對所述敏感詞進行變形生成變形敏感詞，生成敏感詞集合，其中，所述敏感詞集合包括讀取各敏感詞和所述各敏感詞的變形敏感詞；

獲取所述待審核文本中，基于語義進行分詞處理得到的至少一個分詞，將各分詞或者基于分詞順序形成的連續(xù)分詞的組合在所述敏感詞集合中進行匹配；

當與所述敏感詞集合中任一敏感詞或變形敏感詞匹配成功時，確定所述待審核文本審核不通過。

3.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述敏感詞審核模塊包括敏感詞相似度計算子模塊；其中，基于所述敏感詞審核模塊對分詞后的所述待審核文本進行敏感詞審核，包括：

從預(yù)設(shè)的語義向量庫中讀取與所述預(yù)設(shè)敏感詞庫中的敏感詞對應(yīng)語義向量，生成敏感詞語義向量集合；

從所述語義向量庫中讀取與所述待審核文本的分詞結(jié)果列表中的各分詞對應(yīng)的語義向量，生成詞語語義向量集合；

分別計算所述詞語語義向量集合中的每個語義向量與所述敏感詞語義向量集合中所有語義向量的相似度；

若計算得到的相似度最大值大于預(yù)設(shè)的相似度閾值，則確定所述待審核文本審核不通過。

4.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述敏感詞審核模塊包括敏感詞匹配子模塊和敏感詞相似度計算子模塊，所述敏感詞匹配子模塊和所述敏感詞相似度計算子模塊級聯(lián)設(shè)置。

5.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述灌水審核模塊包括灌水規(guī)則審核子模塊和灌水模型審核子模塊中的至少一項，其中，基于所述灌水審核模塊對所述待審核文本進行灌水審核，包括：

基于預(yù)先設(shè)置的灌水規(guī)則對所述待審核文本進行審核；或者，

將通過灌水規(guī)則審核子模塊審核的所述待審核文本輸入至預(yù)先訓(xùn)練好的灌水識別模型中進行審核。

6.根據(jù)權(quán)利要求5所述的方法，其特征在于，所述灌水規(guī)則審核子模塊和所述灌水模型審核子模塊級聯(lián)設(shè)置。

7.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述基于所述語義審核模塊對所述待審核文本進行語義審核，包括：

將所述待審核文本輸入至預(yù)先訓(xùn)練語義分類模型進行語義審核，生成語義標簽，根據(jù)所述語義標簽確定審核結(jié)果。

8.一種文本審核裝置，其特征在于，包括：

敏感詞審核模塊，用于對待審核文本進行分詞處理，基于所述敏感詞審核模塊對分詞后的所述待審核文本進行敏感詞審核；

灌水審核模塊，用于當所述敏感詞審核通過時，基于所述灌水審核模塊對所述待審核文本進行灌水審核；

語義審核模塊，用于當所述灌水審核通過時，基于所述語義審核模塊對所述待審核文本進行語義審核，并輸出審核結(jié)果；

審核結(jié)果輸出模塊，用于當所述敏感詞審核、所述灌水審核和所述語義審核中任一項審核不通過時，輸出審核結(jié)果并結(jié)束對所述待審核文本的審核。