[發明專利]不當評論檢測方法、裝置、設備及介質

在審

• 申請號: 202011406434.3
• 申請日: 2020-12-02
• 公開（公告）號: CN112667886A
• 公開（公告）日: 2021-04-16
• 發明（設計）人: 王偉松;張聰
• 申請（專利權）人: 浙江學海教育科技有限公司
• 主分類號: G06F16/9535
• 分類號: G06F16/9535;G06F40/216;G06F40/289;G06K9/62;G06N20/20
• 代理公司: 杭州創智卓英知識產權代理事務所(普通合伙) 33324
• 代理人: 張超

1.一種不當評論檢測方法，其特征在于，包括以下步驟：

定期獲取評論數據加入訓練集，其中，所述評論數據包括若干條已預先標注類別的評論內容，所述類別包括不當評論和正常評論兩種；

對所述訓練集中的評論內容進行分詞處理，通過樸素貝葉斯算法，分別計算各分詞的概率，其中所述概率為分詞被檢測為不當評論的概率；

將所述各分詞以及所述各分詞的概率關聯存儲至數據庫；

接收目標評論內容，將所述目標評論內容進行分詞處理，得到分詞集合；

從所述數據庫中查詢所述分詞集合中各分詞對應的概率；

根據所述分詞集合中各分詞對應的概率，計算所述分詞集合的復合概率或平均概率；

將所述復合概率或所述平均概率與預設閾值進行比對，若所述復合概率大于或等于所述預設閾值或所述平均概率大于或等于所述預設閾值，則將所述目標評論內容判定為不當評論。

2.如權利要求1所述的不當評論檢測方法，其特征在于，所述通過樸素貝葉斯算法，分別計算各分詞的概率，包括：

通過公式p＝(p1×p3)/(p1×p3+p2×p4)，分別計算各分詞被檢測為不當評論的概率；其中P表示分詞被檢測為不當評論的概率，p1表示所述訓練集中不當評論的基礎概率，p2代表所述訓練集中正常評論的基礎概率，p3代表所述訓練集中不當評論的條件概率，p4代表所述訓練集中正常評論的條件概率。

3.如權利要求1所述的不當評論檢測方法，其特征在于，所述計算所述分詞集合的復合概率，包括：

通過以下公式計算所述分詞集合的復合概率：

其中，P(w1)，P(w1)…P(wn)分別表示所述分詞集合中各分詞對應的概率。

4.如權利要求1所述的不當評論檢測方法，其特征在于，所述計算所述分詞集合的平均概率，包括：

將所述分詞集合中各分詞對應的概率求平均值，得到所述分詞集合的平均概率。

5.如權利要求1所述的不當評論檢測方法，其特征在于，所述將所述目標評論內容判定為不當評論之后，包括：

檢查所述評論內容是否判定正確；

若檢查到所述評論內容出現漏判，則將所述評論內容加入所述訓練集，重新計算各分詞被檢測為不當評論的概率并存儲；

若檢查到所述評論內容出現誤判，則從所述數據庫中刪除所述分詞集合中的各分詞對應的概率。

6.如權利要求1所述的不當評論檢測方法，其特征在于，所述將所述各分詞以及所述各分詞的概率關聯存儲至數據庫，還包括：

將預先為特定分詞設置的干預概率值進行存儲。

7.如權利要求1所述的不當評論檢測方法，其特征在于，所述從所述數據庫中查詢所述分詞集合中各分詞對應的概率，還包括：

根據賦值規則，為未查詢對應概率的分詞指定概率值。

8.一種不當評論檢測裝置，其特征在于，包括：

數據獲取模塊，用于定期獲取評論數據加入訓練集，其中，所述評論數據包括若干條已預先標注類別的評論內容，所述類別包括不當評論和正常評論兩種；

訓練模塊，用于對所述訓練集中的評論內容進行分詞處理，通過樸素貝葉斯算法，分別計算各分詞的概率，其中所述概率為分詞被檢測為不當評論的概率，將所述各分詞以及所述各分詞的概率關聯存儲至數據庫；

檢測模塊，用于接收目標評論內容，將所述目標評論內容進行分詞處理，得到分詞集合，從所述數據庫中查詢所述分詞集合中各分詞對應的概率，根據所述分詞集合中各分詞對應的概率，計算所述分詞集合的復合概率或平均概率，將所述復合概率或所述平均概率與預設閾值進行比對，將所述復合概率或所述平均概率與預設閾值進行比對，若所述復合概率大于或等于所述預設閾值，或所述平均概率大于或等于所述預設閾值，則將所述目標評論內容判定為不當評論。

9.一種電子設備，包括存儲器、處理器以及存儲所述存儲器上并可在所述處理器上運行的計算機程序，其特征在于，所述處理器執行所述計算機程序時實現權利要求1至7任一項所述的不當評論檢測方法。

10.一種計算機可讀存儲介質，其上存儲有計算機程序，其特征在于，所述計算機程序被處理器執行時實現權利要求1至7任一項所述的不當評論檢測方法。