[發明專利]一種惡意消息的識別方法及裝置、服務器

有效

• 申請號: 201310501326.8
• 申請日: 2013-10-23
• 公開（公告）號: CN104580100B
• 公開（公告）日: 2018-12-07
• 發明（設計）人: 趙立;沈飛;周斌;謝波;劉婷婷;楊正朋;稂衡峰
• 申請（專利權）人: 騰訊科技（深圳）有限公司
• 主分類號: H04L29/06
• 分類號: H04L29/06
• 代理公司: 廣州三環專利商標代理有限公司 44202
• 代理人: 郝傳鑫;熊永強

1.一種惡意消息的識別方法，其特征在于，包括：

識別每一分析周期內訓練信息源的每一維度的各類相同消息特征的聚集度；

判斷所述每一維度的各類相同消息特征的聚集度中是否存在聚集度大于等于所述維度對應的聚集閾值，若存在，提取所述聚集度大于等于所述維度對應的聚集閾值的相同消息特征加入惡意消息特征集合；以及，從所述聚集度大于等于所述維度對應的聚集閾值的相同消息特征中每一消息特征所屬消息內，提取該消息特征所屬消息包括的位于其他維度的消息特征加入所述惡意消息特征集合；

當檢測到用戶輸入的信息源時，判斷所述用戶輸入的信息源包括的消息特征是否屬于所述惡意消息特征集合包括的惡意消息特征，若屬于，識別出所述用戶輸入的信息源包括的惡意消息特征所屬消息為惡意消息。

2.根據權利要求1所述的方法，其特征在于，若判斷所述用戶輸入的信息源包括的消息特征屬于所述惡意消息特征集合包括的惡意消息特征，所述方法還包括：

判斷所述用戶輸入的信息源包括的惡意消息特征的數量與所述惡意消息特征集合包括的惡意消息特征的總數量的比值是否大于等于預設閾值，如果是，識別出所述用戶輸入的信息源包括的惡意消息特征所屬消息為惡意消息。

3.根據權利要求1所述的方法，其特征在于，所述方法還包括：

從所述訓練信息源中，提取所述聚集度大于等于所述維度對應的聚集閾值的相同消息特征中每一消息特征所屬消息的用戶屬性；以及將所述用戶屬性加入惡意用戶屬性集合。

4.根據權利要求3所述的方法，其特征在于，若判斷所述用戶輸入的信息源包括的消息特征屬于所述惡意消息特征集合包括的惡意消息特征，所述方法還包括：

判斷所述用戶輸入的信息源包括的惡意消息特征的數量與所述惡意消息特征集合包括的惡意消息特征的總數量的比值是否大于等于預設閾值，如果是，判斷所述用戶輸入的信息源包括的惡意消息特征所屬消息的用戶屬性是否屬于所述惡意用戶屬性集合包括的惡意用戶屬性，若屬于，識別出所述用戶輸入的信息源包括的惡意消息特征所屬消息為惡意消息。

5.根據權利要求1～4任一項所述的方法，其特征在于，所述訓練信息源的維度包括文本內容、圖片、音視頻、發帖用戶信息以及被轉載者信息中的兩個或兩個以上。

6.一種惡意消息的識別裝置，其特征在于，包括：

第一識別單元，用于識別每一分析周期內訓練信息源的每一維度的各類相同消息特征的聚集度；

第一判斷單元，用于判斷所述每一維度的各類相同消息特征的聚集度中是否存在聚集度大于等于所述維度對應的聚集閾值；

第一提取單元，用于在所述第一判斷單元的辨別結果為是時，提取所述聚集度大于等于所述維度對應的聚集閾值的相同消息特征加入惡意消息特征集合；以及，從所述聚集度大于等于所述維度對應的聚集閾值的相同消息特征中每一消息特征所屬消息內，提取該消息特征所屬消息包括的位于其他維度的消息特征加入所述惡意消息特征集合；

第二判斷單元，用于當檢測到用戶輸入的信息源時，判斷所述用戶輸入的信息源包括的消息特征是否屬于所述惡意消息特征集合包括的惡意消息特征，

第二識別單元，用于在所述第二判斷單元的判斷結果為是時，識別出所述用戶輸入的信息源包括的惡意消息特征所屬消息為惡意消息。

7.根據權利要求6所述的裝置，其特征在于，所述裝置還包括：

第三判斷單元，用于在所述第二判斷單元的判斷結果為是時，判斷所述用戶輸入的信息源包括的惡意消息特征的數量與所述惡意消息特征集合包括的惡意消息特征的總數量的比值是否大于等于預設閾值；

第三識別單元，用于在所述第三判斷單元的判斷結果為是時，識別出所述用戶輸入的信息源包括的惡意消息特征所屬消息為惡意消息。

8.根據權利要求6所述的裝置，其特征在于，所述裝置還包括：

第二提取單元，用于從所述訓練信息源中，提取所述聚集度大于等于所述維度對應的聚集閾值的相同消息特征中每一消息特征所屬消息的用戶屬性；以及，將所述用戶屬性加入惡意用戶屬性集合。