[發明專利]聊天數據的審核方法、裝置及計算機設備

有效

• 申請號: 202110390278.4
• 申請日: 2021-04-12
• 公開（公告）號: CN113132368B
• 公開（公告）日: 2022-11-04
• 發明（設計）人: 王健
• 申請（專利權）人: 海南晨風科技有限公司
• 主分類號: H04L9/40
• 分類號: H04L9/40;H04L51/04;G10L15/22;G06F40/35;G06F40/289
• 代理公司: 北京中強智尚知識產權代理有限公司 11448
• 代理人: 黃耀威

本申請公開了一種聊天數據的審核方法、裝置及計算機設備，涉及計算機技術領域，可以解決人工審核聊天數據的方式，導致審核效率低、準確性差，不能實現對聊天信息的智能化識別，進而無法為用戶營造良好的游戲體驗的技術問題。其中方法包括：獲取待審核的聊天數據，并提取所述聊天數據的數據類型；依據與所述數據類型匹配的信息審核規則審核所述聊天數據，確定第一審核結果；若所述第一審核結果為所述聊天數據中包含違禁數據，則依據所述違禁數據的違禁類別計算所述違禁數據的違禁分值，并基于所述違禁分值確定所述聊天數據的第二審核結果。本申請適用于對聊天數據的違規性審核。

技術領域

本申請涉及計算機技術領域，尤其涉及到一種聊天數據的審核方法、裝置及計算機設備。

背景技術

隨著互聯網的發展、移動終端的普及，網絡聊天方式已經是生活中普遍、客觀存在的一部分，在各大游戲、購物以及交友軟件中均會設置聊天模塊，用戶可通過聊天模塊實現信息的在線交互。然而網上聊天方式的弊端在于，無法對聊天信息進行有效審核，進而導致存在通過網上聊天傳播色情、低俗以及違禁信息的不法行為，這對青少年乃至成年都造成了不良影響。為營造良好的網絡聊天環境，對聊天信息的合法性審核顯得尤為重要。

現有技術中，對聊天信息的違禁性審核方式通常采用人工審核的方式，然而這種方式會導致審核效率低、準確性差，不能實現對聊天信息的智能化識別，進而無法為用戶營造良好的網絡聊天環境。

發明內容

有鑒于此，本申請提供了一種聊天數據的審核方法、裝置及計算機設備，用于解決人工審核聊天數據的方式，導致審核效率低、準確性差，不能實現對聊天信息的智能化識別，進而無法為用戶營造良好的游戲體驗的技術問題。

根據本申請的一個方面，提供了一種聊天數據的審核方法，該方法包括：

獲取待審核的聊天數據，并提取所述聊天數據的數據類型；

依據與所述數據類型匹配的信息審核規則審核所述聊天數據，確定第一審核結果；

若所述第一審核結果為所述聊天數據中包含違禁數據，則依據所述違禁數據的違禁類別計算所述違禁數據的違禁分值，并基于所述違禁分值確定所述聊天數據的第二審核結果。

可選地，所述依據與所述數據類型匹配的信息審核規則審核所述聊天數據，確定第一審核結果，具體包括：

若所述數據類型為文本類型和/或語音類型，則利用第一審核規則審核所述聊天數據，獲取得到第一審核結果；或，

若所述數據類型為語音類型，則利用第二審核規則審核所述聊天數據，獲取得到第一審核結果。

可選地，所述利用第一審核規則審核所述聊天數據，獲取得到第一審核結果，具體包括：

將所述聊天數據轉換為標準文本；

基于分詞技術將所述標準文本切分為包含各個第一字符的第一字符序列；

在所述第一字符序列中剔除與預設字符匹配的第一字符，得到包含各個第二字符的第二字符序列；

按照所述第二字符序列中的字符順序，依次對預設數量個相鄰的第二字符進行排列組合處理，獲取得到各個待識別文本段；

基于正則表達式對所述待識別文本段進行違禁數據查詢，以得到第一審核結果。

可選地，所述基于正則表達式對所述待識別文本段進行違禁數據查詢，以得到第一審核結果，具體包括：

將所述待識別文本段與預設違禁詞分別進行音碼匹配和形碼匹配，確定音碼匹配下的第一相似度以及形碼匹配下的第二相似度；

根據所述音碼匹配對應的第一預設權重和所述形碼匹配對應的第二預設權重，計算所述第一相似度和所述第二相似度的加權求和結果；