[發明專利]一種惡意文本的檢測方法、裝置、電子設備及存儲介質

在審

• 申請號: 201911340066.4
• 申請日: 2019-12-23
• 公開（公告）號: CN111159338A
• 公開（公告）日: 2020-05-15
• 發明（設計）人: 揭文君;吳迪;李澤
• 申請（專利權）人: 北京達佳互聯信息技術有限公司
• 主分類號: G06F16/33
• 分類號: G06F16/33;G06F16/35;G06F40/30;G06K9/62
• 代理公司: 北京先進知識產權代理有限公司 11648
• 代理人: 邵勁草

1.一種惡意文本的檢測方法，其特征在于，包括：

將待檢測文本進行歸一化處理，得到歸一化后的待檢測文本；

至少根據所述歸一化后的待檢測文本，確定所述惡意文本庫中惡意文本與所述待檢測文本的最高相似度，其中，所述最高相似度，至少為所述歸一化后的待檢測文本和所述惡意文本庫中各惡意文本的相似度中最高的相似度；

若所述最高相似度大于預設相似度閾值，則確定所述待檢測文本為惡意文本。

2.根據權利要求1所述的檢測方法，其特征在于，至少根據所述歸一化后的待檢測文本，確定所述惡意文本庫中惡意文本與所述待檢測文本的最高相似度，包括：

對所述歸一化后的待檢測文本進行類型轉換，得到語義與所述待檢測文本相同、且表現形式與所述待檢測文本不同的轉換后的文本；

分別計算所述歸一化后的待檢測文本與各惡意文本的第一相似度集合、以及計算所述轉換后的文本與各惡意文本的第二相似度集合；

從所述第一相似度集合和所述第二相似度集合中確定出最高相似度，作為所述惡意文本庫中惡意文本與所述待檢測文本的最高相似度。

3.根據權利要求2所述的檢測方法，其特征在于，若所述最高相似度大于預設相似度閾值，則確定所述待檢測文本為惡意文本，包括：

若所述最高相似度中的至少一個大于預設相似度閾值，則確定所述待檢測文本為惡意文本。

4.根據權利要求1或2所述的檢測方法，其特征在于，至少根據所述歸一化后的待檢測文本，確定所述惡意文本庫中惡意文本與所述待檢測文本的最高相似度，包括：

至少根據所述歸一化后的待檢測文本的文本向量與所述惡意文本庫中的各惡意文本的文本向量，確定各惡意文本與所述待檢測文本的相似度，其中，文本的文本向量通過預先訓練得到的模型而生成；

從各惡意文本與所述待檢測文本的文本向量的相似度中，確定出最高的相似度。

5.根據權利要求4所述的檢測方法，其特征在于，文本的文本向量通過預先訓練得到的模型通過如下方式而生成：

通過預先訓練得到的模型，獲取所述文本包含的多個詞語的詞向量；

計算所述多個詞語的詞向量的平均值，得到所述文本的文本向量；或者，

將所述文本輸入預先訓練得到的模型；

從所述預先訓練得到的模型的隱藏層獲取與所述文本對應的文本向量。

6.根據權利要求1所述的檢測方法，其特征在于，在所述至少根據所述歸一化后的待檢測文本，確定所述惡意文本庫中惡意文本與所述待檢測文本的最高相似度之前，還包括：

基于預先獲取的惡意文本，生成與所述惡意文本對應的對抗文本；

根據所述惡意文本以及所述對抗文本，構建惡意文本庫。

7.一種惡意文本的檢測裝置，其特征在于，包括：

歸一化處理模塊，被配置為執行將待檢測文本進行歸一化處理，得到歸一化后的待檢測文本；

相似度確定模塊，被配置為執行至少根據所述歸一化后的待檢測文本，確定所述惡意文本庫中惡意文本與所述待檢測文本的最高相似度，其中，所述最高相似度，至少為所述歸一化后的待檢測文本和所述惡意文本庫中各惡意文本的相似度中最高的相似度；

惡意文本確定模塊，被配置為執行若所述最高相似度大于預設相似度閾值，則確定所述待檢測文本為惡意文本。

8.根據權利要求7所述的檢測裝置，其特征在于，所述相似度確定模塊，包括：

轉換單元，被配置為執行對所述歸一化后的待檢測文本進行類型轉換，得到語義與所述待檢測文本相同、且表現形式與所述待檢測文本不同的轉換后的文本；

計算單元，被配置為執行分別計算所述歸一化后的待檢測文本與各惡意文本的第一相似度、以及計算所述轉換后的文本與各惡意文本的第二相似度；

確定單元，被配置為執行從所述第一相似度和第二相似度中，分別確定出最高的相似度。