[發明專利]一種檢測惡意語言的方法、裝置、設備及存儲介質

在審

• 申請號: 202011482587.6
• 申請日: 2020-12-15
• 公開（公告）號: CN112528626A
• 公開（公告）日: 2021-03-19
• 發明（設計）人: 張麗云;白琳;肖征榮
• 申請（專利權）人: 中國聯合網絡通信集團有限公司
• 主分類號: G06F40/205
• 分類號: G06F40/205;G06F16/35;G06Q50/00;G06N3/04;G06N3/08
• 代理公司: 北京中博世達專利商標代理有限公司 11274
• 代理人: 申健

1.一種檢測惡意語言的方法，其特征在于，所述方法包括：

獲取第一檢測結果；所述第一檢測結果為待檢測信息中第一段落的檢測結果；

根據所述第一檢測結果以及第二段落，確定第二檢測結果；所述第二段落為所述待檢測信息中所述第一段落之后的段落；

根據所述第二檢測結果，確定達到預設檢測點；所述預設檢測點為確定所述待檢測信息的檢測結果所需的段落數；

根據所述第一檢測結果和所述第二檢測結果確定所述待檢測信息的檢測結果。

2.根據權利要求1所述的方法，其特征在于，所述方法還包括：

根據所述第二檢測結果，在確定沒有達到所述預設檢測點的情況下，根據所述第二檢測結果以及第三段落確定第三檢測結果；所述第三段落為所述待檢測信息中所述第二段落之后的段落；

根據所述第三檢測結果，確定達到預設檢測點；

根據所述第一檢測結果、所述第二檢測結果以及所述第三檢測結果確定所述待檢測信息的檢測結果。

3.根據權利要求1所述的方法，其特征在于，根據所述第二檢測結果，確定達到預設檢測點包括：

根據所述第二檢測結果，確定所述第二檢測結果對應的動作值；所述動作值包括繼續檢測或終止檢測；

在所述動作值為終止檢測的情況下，確定達到所述預設檢測點。

4.根據權利要求1-3中任一項所述的方法，其特征在于，所述方法還包括：

根據預設惡意語言數據庫，在確定所述待檢測信息的檢測結果正確的情況下，將初始獎懲值增加預設獎勵值，得到當前獎懲值；

在確定所述待檢測信息的檢測結果錯誤的情況下，將所述初始獎懲值減去預設懲罰值，得到當前獎懲值。

5.根據權利要求4所述的方法，其特征在于，所述方法還包括：

在確定所述當前獎懲值小于或等于預設閾值的情況下，調整所述預設檢測點。

6.一種檢測惡意語言的裝置，其特征在于，所述裝置包括：

獲取單元，用于獲取第一檢測結果；所述第一檢測結果為待檢測信息中第一段落的檢測結果；

確定單元，用于根據所述獲取單元獲取的所述第一檢測結果以及第二段落，確定第二檢測結果；所述第二段落為所述待檢測信息中所述第一段落之后的段落；

所述確定單元，還用于根據所述確定單元確定的所述第二檢測結果，確定達到預設檢測點；所述預設檢測點為確定所述待檢測信息的檢測結果所需的段落數；

所述確定單元，還用于根據所述確定單元確定的所述第一檢測結果和所述第二檢測結果確定所述待檢測信息的檢測結果。

7.根據權利要求6所述的裝置，其特征在于，所述確定單元還用于：

根據所述確定單元確定的所述第二檢測結果，在確定沒有達到所述預設檢測點的情況下，根據所述第二檢測結果以及第三段落確定第三檢測結果；所述第三段落為所述待檢測信息中所述第二段落之后的段落；

根據所述第三檢測結果，確定達到預設檢測點；

根據所述第一檢測結果、所述第二檢測結果以及所述第三檢測結果確定所述待檢測信息的檢測結果。

8.根據權利要求6所述的裝置，其特征在于，所述確定單元具體用于：

根據所述確定單元確定的所述第二檢測結果，確定所述第二檢測結果對應的動作值；所述動作值包括繼續檢測或終止檢測；

在所述動作值為終止檢測的情況下，確定達到所述預設檢測點。

9.根據權利要求6-8中任一項所述的裝置，其特征在于，所述確定單元還用于：

根據預設惡意語言數據庫，在確定所述確定單元確定的所述待檢測信息的檢測結果正確的情況下，將初始獎懲值增加預設獎勵值，得到當前獎懲值；

在確定所述確定單元確定的所述待檢測信息的檢測結果錯誤的情況下，將所述初始獎懲值減去預設懲罰值，得到所述當前獎懲值。